恭喜之江实验室基隆若沙库·提提郎获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜之江实验室申请的专利模型训练方法、装置、电子设备和存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119599094B 。
龙图腾网通过国家知识产权局官网在2025-05-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510151576.6,技术领域涉及:G06N3/096;该发明授权模型训练方法、装置、电子设备和存储介质是由基隆若沙库·提提郎;许莹莹;姚柯璐;李超设计研发完成,并于2025-02-11向国家知识产权局提交的专利申请。
本模型训练方法、装置、电子设备和存储介质在说明书摘要公布了:本说明书提供一种模型训练方法、装置、电子设备和存储介质,所述方法包括:将训练数据分别输入至教师模型、辅助模型和学生模型,所述教师模型是已训练的。教师模型对训练数据进行特征提取,并将提取的教师中间特征传递至所述辅助模型。所述辅助模型对所述训练数据进行特征提取,并将提取的辅助中间特征传递至所述学生模型;以及,基于第一损失函数训练所述辅助模型,所述第一损失函数包括所述辅助中间特征与所述教师中间特征之间的第一特征蒸馏损失。所述学生模型对所述训练数据进行特征提取,得到学生中间特征;以及,基于第二损失函数训练所述学生模型,所述第二损失函数包括所述学生中间特征与所述辅助中间特征之间的第二特征蒸馏损失。
本发明授权模型训练方法、装置、电子设备和存储介质在权利要求书中公布了:1.一种模型训练方法,其特征在于,所述方法包括:将训练数据分别输入至教师模型、辅助模型和学生模型;所述教师模型是已训练的;其中,所述训练数据是多模态数据、纯视觉数据或者纯文本数据;所述教师模型对训练数据进行特征提取,并将提取的教师中间特征传递至所述辅助模型,包括:所述教师模型提取所述训练数据的多个层级的特征,并将所述多个层级的特征分别传递至不同的辅助模型,其中,所述辅助模型是独立的神经网络,不同辅助模型之间的训练过程相互独立;所述辅助模型对所述训练数据进行特征提取,并将提取的辅助中间特征传递至所述学生模型;以及,基于第一损失函数训练所述辅助模型,所述第一损失函数包括所述辅助中间特征与所述教师中间特征之间的第一特征蒸馏损失,包括:对于任一辅助模型的第一损失函数,该第一损失函数包括所述任一辅助模型提取的辅助中间特征与相应的教师中间特征之间的第一特征蒸馏损失;所述学生模型对所述训练数据进行特征提取,得到学生中间特征;以及,基于第二损失函数训练所述学生模型,所述第二损失函数包括所述学生中间特征与所述辅助中间特征之间的第二特征蒸馏损失。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室,其通讯地址为:311121 浙江省杭州市余杭区中泰街道科创大道之江实验室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。