买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种基于大模型微调的知识问答方法、装置及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120106230B 。

龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510588607.4，技术领域涉及：G06N5/04；该发明授权一种基于大模型微调的知识问答方法、装置及存储介质是由史宇浩;王闻箫;林彬彬;蔡登设计研发完成，并于2025-05-08向国家知识产权局提交的专利申请。

本一种基于大模型微调的知识问答方法、装置及存储介质在说明书摘要公布了：本发明公开了一种基于大模型微调的知识问答方法、装置及存储介质，包括：（1）在大语言模型的原始参数旁边添加正交子空间，所述的正交子空间包括正交基、训练参数以及以正交基的逆；（2）进行两阶段训练；第一阶段，冻结训练参数，将正交子空间拟合到目标知识领域数据集的子空间；第二阶段，冻结正交基，在已拟合至目标知识领域数据集的子空间下对训练参数进行训练，以完成知识注入；（3）将目标知识领域的问题输入训练完的大语言模型，生成响应答案。利用本发明，可以解决在知识问答场景中，使用常规高效参数微调方法注入新领域知识时效果不佳的问题。

本发明授权一种基于大模型微调的知识问答方法、装置及存储介质在权利要求书中公布了：1.一种基于大模型微调的知识问答方法，其特征在于，包括以下步骤： （1）在大语言模型的原始参数旁边添加正交子空间，所述的正交子空间包括正交基、训练参数以及以正交基的逆；具体包括： （1-1）将大语言模型记为，在每一层本身参数不参与的情况下，随机创建一组正交基作为正交子空间的初始基底，该正交基附着于模型原始参数，同时作为正交子空间的入口处参数；，表示大语言模型的层数； （1-2）将正交基的逆记为，作为正交子空间的出口处参数，在与之间，创建一组参数作为正交子空间内部的训练参数，构成由、和三组参数组成的正交子空间； （2）进行两阶段训练；第一阶段，冻结训练参数，将正交子空间拟合到目标知识领域数据集的子空间；第二阶段，冻结正交基，在已拟合至目标知识领域数据集的子空间下对训练参数进行训练，以完成知识注入；具体的： 第一阶段的训练中，将正交子空间中的训练参数冻结并置为单位矩阵，使用一个采集自目标知识领域数据集的子集来训练冻结训练参数的正交子空间，使其适应至目标知识领域数据集的空间; 第二阶段的训练中，随机初始化训练参数，将正交基与冻结作为子空间的基底，在正交子空间中对训练参数进行训练，训练过程中使用全部的目标知识领域数据集; （3）将目标知识领域的问题输入训练完的大语言模型，生成响应答案。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。