数据空间研究院余海阳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉数据空间研究院申请的专利基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法、终端获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121389189B 。
龙图腾网通过国家知识产权局官网在2026-03-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511959334.6,技术领域涉及:G06F21/62;该发明授权基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法、终端是由余海阳;张佳佳;谢宏华;陈爱华;杭松;张凯;余志富;胡家武;潘李伟;魏凌波设计研发完成,并于2025-12-24向国家知识产权局提交的专利申请。
本基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法、终端在说明书摘要公布了:本发明涉及人工智能和隐私保护技术领域,公开了基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法、终端,该方法从垂直领域大语言模型的原始训练语料库中,分离出两个文本序列数据子集,即保留数据集和遗忘数据集;保留数据集包含不含隐私信息的垂直领域专业数据,遗忘数据集包含待消除的隐私敏感数据。基于信息几何理论,分别在保留数据集和遗忘数据集上计算模型参数的保留Fisher信息矩阵和遗忘Fisher信息矩阵。基于保留Fisher信息矩阵和遗忘Fisher信息矩阵的协同分析,构建参数遗忘引导函数,计算模型所有参数的引导函数值,据此构建标准化引导向量。本发明实现了大语言模型隐私遗忘在隐私消除和能力保持两个层面的精细化平衡。
本发明授权基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法、终端在权利要求书中公布了:1.基于双Fisher矩阵引导的垂直领域大模型隐私遗忘方法,其特征在于,包括: S1.从垂直领域大语言模型的原始训练语料库中,分离出两个文本序列数据子集,即保留数据集和遗忘数据集;其中,所述保留数据集包含不含隐私信息的垂直领域专业数据,所述遗忘数据集包含待消除的隐私敏感数据; S2.基于信息几何理论,分别在所述保留数据集和所述遗忘数据集上计算模型参数的保留Fisher信息矩阵和遗忘Fisher信息矩阵; S3.基于所述保留Fisher信息矩阵和所述遗忘Fisher信息矩阵的协同分析,构建参数遗忘引导函数,计算模型所有参数的引导函数值,据此构建标准化引导向量;其中,每个参数的引导函数值用于表征该参数的遗忘收益-保留成本比,数值越大表明遗忘该参数对隐私消除的边际收益越高,而对领域性能的边际损失越低; S4.根据所述标准化引导向量的统计分布特征,将参数空间自适应划分为具有不同遗忘优先级的多个子空间; S5.针对所述多个子空间分别设计差异化的参数选择性遗忘策略,通过联合优化更新参数,实现隐私数据的遗忘和领域知识的保留; 步骤S2中,对于模型第个参数,其保留Fisher信息为,遗忘Fisher信息为,定义公式分别如下: 式中,,为模型总参数量;表示在保留数据集上的数学期望,为保留数据集;表示在遗忘数据集上的数学期望,为遗忘数据集;为偏导数算子;为模型在参数集合下根据输入预测输出的条件概率分布,,为输入文本序列,为目标输出序列; 步骤S3中,所述参数遗忘引导函数的表达式为: 式中,为参数的引导函数值;和为非线性调节指数;为数值稳定性平滑项;其中,分子项用于量化参数的隐私风险度,指数用于放大或抑制遗忘重要性的差异;分母项用于量化参数的领域知识贡献度作为遗忘约束,指数控制保留重要性的惩罚强度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人数据空间研究院,其通讯地址为:230000 安徽省合肥市高新区柏堰科技园创新大道288号工投高新智谷B区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励