西北大学郭竞获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北大学申请的专利一种基于时空信息转移知识蒸馏技术的3D模型压缩方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115035595B 。
龙图腾网通过国家知识产权局官网在2025-06-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210624609.0,技术领域涉及:G06V10/82;该发明授权一种基于时空信息转移知识蒸馏技术的3D模型压缩方法是由郭竞;康金龙;梁伟;姚丽娜;张靖;史哲;朱文娟;卫毅;韩枫;许鹏飞设计研发完成,并于2022-06-02向国家知识产权局提交的专利申请。
本一种基于时空信息转移知识蒸馏技术的3D模型压缩方法在说明书摘要公布了:本发明公开了一种基于时空信息转移知识蒸馏技术的3D模型压缩方法,该方法采用多层特征蒸馏模块MFDM作为3D模型的核心元件,对行为识别网络进行模型压缩,采用包含多种动作类和多视频段公开数据集作为实验数据集,从数据集中的各个行为视频片段等间隔的取出部分帧分别作为时空特征蒸馏方法中教师模型和学生模型的输入进行特征提取;提取出每一层的特征,对每一层特征进行多层次特征蒸馏算法,并算出多层时空特征转移损失;将最后一层的特征放入分类其中,进行分类,得出logistic回归概率,分别将其与教师模型生成的软标签和真实标签算出损失函数;最后根据总体的损失函数,通过反向传播更新学生模型的所有参数,同时更新多层特征蒸馏模块的参数。
本发明授权一种基于时空信息转移知识蒸馏技术的3D模型压缩方法在权利要求书中公布了:1.一种基于时空信息转移知识蒸馏技术的3D模型压缩方法,其特征在于,该方法采用多层特征蒸馏模块MFDM作为3D模型的核心元件,对行为识别网络进行模型压缩,具体包括如下步骤: S1:采用包含多种动作类和多视频段公开数据集作为实验数据集,从数据集中的各个行为视频片段等间隔的取出部分帧分别作为时空特征蒸馏方法中教师模型和学生模型的输入进行特征提取; S2:提取出每一层的特征,对每一层特征进行多层次特征蒸馏算法,并算出多层时空特征转移损失; S2.1:三维时空特征学习模块的Conv代表采用卷积操作,每个特征图都应用了特定步幅的卷积;这里设置一组超参数α,β,γ,μ,将特征图经过三维卷积转变为αT×βH×γW,μC;设置学生模型第i层卷积大小为W×H×T,C分别将学生模型和教师模型输出特征分别经过特定步幅的卷积,转化为αT×βH×γW,μC; S2.2:分别将3DResnet-18,3DResnet-34,3DResnet-50作为学生网络的backbone来提取特征;下标s表示为学生模型,将视频数据X输入到学生模型S中,令Ys=SX,其中Ys表示主干网络最后输出的学生模型的特征图;由于整个网络S可以被分为不同部分,其中Si表示第i层网络,因此,主干网络输出的特征Ys也可以被表示Ys=Sn…Δ…SiΔ…S2ΔS1X,其中,Ys表示学生模型的输出特征图,SiΔSi-1表示SiSi-1X,表示将i-1层输出的特征图作为i层的输入得到Si的输出特征图; S2.3:分别将3DResnet-34,3DResnet-50,3DResnet-101作为教师模型的backbone来提取特征;对于教师模型也是和学生模式同理,将下标为t表示为教师模型; S2.4:将教师模型中的特征提取能力转移到学生模型中,由于需要对中间的特征提取层进行知识迁移,因此可以将第i层网络Si的输出特征图取出,并设为Fi,整个主干网络中间层的输出特征矩阵设为F=F1,F2,…,Fi,…,Fn; S2.5:单层知识蒸馏可以表示为: 表示学生模型的i层的特征图放入同一个特征空间后的到的特征图,表示教师模型的i层的特征图放入同一个特征空间后的到的特征图;由于每一层的L由多个L2组成,D表示两个特征图的距离函数;其中M是表示将特征放入同一个特征空间;多层知识蒸馏表示为:其中,I表示需要进行蒸馏的层数的集合,对应整个多层特征蒸馏模块的损失函数; S3:将最后一层的特征放入分类器中,进行分类,得出logistic回归概率,分别将其与教师模型生成的软标签和真实标签算出损失函数; S3.1:在神经网络中,softmax常被用作输出层,输出每一类的概率zi,然后通过与其他的logistic回归概率值之和进行对比,可以将每个类的计算的logistic回归概率转换为概率qi,则: 其中,T是一个通常设置为1的温度,对T使用较高的值会在类上产生较弱的概率分布; S3.2:全连接层后的输出为Zs=FCLYs,Zs表示主干网络经过全连接层输出的logistic回归概率值; S3.3:网络模型的损失函数包括软标签损失和硬标签损失,软标签损失函数是与软标签的交叉熵,硬标签损失是与正确标签的交叉熵; S4:最后根据总体的损失函数,通过反向传播更新学生模型的所有参数,同时更新多层特征蒸馏模块的参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北大学,其通讯地址为:710069 陕西省西安市太白北路229号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。