买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明公开了一种基于消化内镜的大型语言和视觉助手的辅助检查方法,包括获取内窥镜检查病例的原始数据,并进行数据清洗和预处理;根据处理后的原始数据基于GPT辅助进行内窥镜视觉指令数据生成,得到内窥镜多模态指令追踪数据集;基于渐进式迁移学习方法,对构建的多模态大型语言模型进行微调训练,实现多模态大型语言模型和已有的预训练模型对内窥镜检查数据的知识迁移,同时避免灾难性遗忘;最终得到内窥镜多模态大型语言模型,并基于GPT‑4和人工进行评估。本发明能够在内窥镜检查中展现卓越优势,缓解数据匮乏难题,精准捕捉问诊意图,准确阐释医学术语,依托病灶图像推理,消除问诊模糊性,开创多模态大型模型在该领域应用先河。
主权项:1.一种基于消化内镜的大型语言和视觉助手的辅助检查方法,包括以下步骤:步骤S1、获取内窥镜检查病例的原始数据,并进行数据清洗和预处理;步骤S2、根据处理后的原始数据基于GPT辅助内窥镜视觉指令进行数据生成,得到多模态指令追踪内窥镜数据集;步骤S3、构建多模态大型语言模型,所述模型的框架由视觉编码器、大语言模型,以及可训练的投影矩阵组成;基于渐进式迁移学习方法,将多模态大型语言模型和已有的预训练模型适应于内窥镜检查领域;步骤S4、根据得到多模态大型语言模型,使用GPT-4进行人工对模型回答的条理性,准确度进行评分,得到最终模型,并进行内窥镜辅助检查。
全文数据:
权利要求:
百度查询: 合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室) 一种基于消化内镜的大型语言和视觉助手的辅助检查方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。