中国人民解放军国防科技大学刘晓东获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国人民解放军国防科技大学申请的专利一种基于本地大模型信息处理方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119539079B 。
龙图腾网通过国家知识产权局官网在2025-09-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411602416.0,技术领域涉及:G06N5/04;该发明授权一种基于本地大模型信息处理方法及装置是由刘晓东;余杰;李汉华;吴柔;吴庆波;彭龙;高珑;李琢;纪斌;李文杰;张梦琳设计研发完成,并于2024-11-11向国家知识产权局提交的专利申请。
本一种基于本地大模型信息处理方法及装置在说明书摘要公布了:本申请公开了一种基于本地大模型信息处理方法及装置,属于网络技术领域。该方法通过构建和部署任务执行引擎,本地部署的大模型能够充分利用显卡的计算能力,实现高效的信息处理。同时,模型量化处理显著降低了显存需求,提升了推理速度。任务执行引擎简化了一部分常用的系统交互相关任务,使用户能够更加便捷地完成各种任务,提高了系统的实时响应能力;基于本地大模型,用户即使在无网络环境下也能进行智能对话和任务执行,保障数据隐私和安全,实现了数据隐私保护;用户无需切换界面即可发起任务请求,提升操作效率和便利性;任务执行引擎可实现与系统深度融合的任务执行,简化用户与系统的交互;通过对复杂任务的拆解,提供更实用的执行步骤和方法。
本发明授权一种基于本地大模型信息处理方法及装置在权利要求书中公布了:1.一种基于本地大模型信息处理方法,其特征在于,所述方法包括: 构建任务执行引擎; 将所述本地大模型量化后部署在本地环境并整合所述任务执行引擎; 对所述本地大模型执行动态按需加载策略; 安装所述本地大模型必要的显卡驱动与软件环境; 获取用户输入,所述用户输入支持文本、语音和文件输入; 基于所述本地大模型采用Prompt微调方式对所述用户输入进行用户意图判定,所述用户意图判定的内容包括意图识别、上下文增强、内容分解、内容简化和规范化处理; 通过构建的任务向量数据库判断出所述用户意图; 响应于所述用户意图指示为任务请求,将所述任务请求转换为处理指令; 反馈所述处理指令,所述处理指令的形式包括文本、语音和文件; 所述响应于所述用户意图指示为任务请求,将所述任务请求转换为处理指令之后,所述方法还包括:响应于所述用户意图指示为复杂请求,通过Prompt微调将所述复杂请求进行拆解得到子任务;通过所述任务执行引擎解析所述子任务并执行对应的指令; 其中,所述动态按需加载策略,包括:设置嵌入有支持按需加载具体功能模型;设置动态加载和卸载机制,所述动态加载和卸载机制支持不主动加载所有可能需要的大模型,且支持根据任务需求和优先级选择性地加载该模型至显存;设置任务调度和资源管理机制,所述任务调度和资源管理机制支持根据实时监控任务队列和显存使用情况预判即将需要的模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国人民解放军国防科技大学,其通讯地址为:410000 湖南省长沙市开福区德雅路109号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。