买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:苏州大学
摘要:本发明公开了一种基于知识蒸馏和自监督学习的近视性黄斑病变分类方法及系统,涉及医学图像分类技术领域,包括自监督学习阶段和近视性黄斑病变分类阶段,自监督学习阶段包括图像掩码模块、知识蒸馏与特征编码模块和图像重建模块;通过对原始眼底彩照图像进行高通滤波来产生重建目标,使表示学习优先考虑高频成分,即图像细节和边缘信息,使得网络更多关注到图像的高频细节来实现图像重建。本发明通过优化蒸馏技术和重建策略,实现了在眼底图像病变分类中的高效应用;从较大模型中提取知识,提高模型的训练效率;增强了模型对图像细节部分的捕获,分类性能良好,为后续病变的定量分析奠定基础。
主权项:1.基于知识蒸馏和自监督学习的近视性黄斑病变分类方法,其特征在于:包括,自监督学习阶段和近视性黄斑病变分类阶段;所述自监督学习阶段,用于将输入图像划分为不重叠的patch块,通过构建教师模型和学生模型,进行特征提取,并通过可见patch块预测完整图像;所述近视性黄斑病变分类阶段,用于采用交叉熵损失函数和中心损失函数对分类网络进行微调训练,获取分类器网络,将待预测的完整图像送入训练完成的分类器网络,获取病变分类结果的输出;所述自监督学习阶段包括图像掩码模块、知识蒸馏与特征编码模块和图像重建模块;所述图像掩码模块中的编码器模块采用视觉转换器ViT作为骨干网络,将输入图像转为序列作为ViT的输入,将输入图像划分为规则不重叠的个patch块,其中p×p为patch块的大小,为输入图像的分辨率,C为通道数,将patch块利用线性投影层映射为D维的嵌入向量,在嵌入向量的基础上,添加一个可学习的嵌入向量,聚合来自整个序列的信息,同时,在patch嵌入序列中加入可学习的位置嵌入,得到ViT输入序列,表示为: ,对patch序列进行随机采样,并掩码剩余的patch块,即根据得到的patch序列,构造一个随机掩码,设表示对应的patch块被掩码,K表示未被掩码的patch块数量,则最终编码器的输入序列为;所述ViT的输入序列通过自注意力机制对远程信息进行建模,对于给定L层的ViT,仅将输入序列中的部分可见patch块,即送入编码器,并映射到潜在特征,表示为: ; ;其中,表示ViT的层,LN·表示层归一化操作,在多头自注意力MSA层中,每个patch嵌入向量会计算自注意力映射,通过聚合其他patch嵌入向量来更新自身,特征编码器的输出包括全局特征表示和patch级别特征表示。
全文数据:
权利要求:
百度查询: 苏州大学 基于知识蒸馏和自监督学习的近视性黄斑病变分类方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。