Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 华南理工大学李坤豪获国家专利权

华南理工大学李坤豪获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉华南理工大学申请的专利一种自适应语义感知的大语言模型隐私保护方法及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120068141B

龙图腾网通过国家知识产权局官网在2026-01-16发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510014381.7,技术领域涉及:G06F21/62;该发明授权一种自适应语义感知的大语言模型隐私保护方法及设备是由李坤豪;杨磊设计研发完成,并于2025-01-06向国家知识产权局提交的专利申请。

一种自适应语义感知的大语言模型隐私保护方法及设备在说明书摘要公布了:本发明公开了一种自适应语义感知的大语言模型隐私保护方法及设备,其中方法包括:大语言模型服务提供商将大语言模型分解为底部嵌入层模型和其他部分,分别部署在客户端和服务器端;在预训练阶段,客户端训练一个生成器和一个采样器。生成器包括可学习的文本嵌入层和门控循环单元,能够生成与原文本相似且语义接近的文本序列。采样器自适应地选择需要替换的文本位置及其替换词,逐步逼近原文本的语义嵌入;在增强训练阶段,预训练的生成器与基于Transformer的判别器进行对抗训练,同时采样器生成语义近似的文本,引导生成器生成更加真实和符合语义的样本;经过训练的生成器生成扰动嵌入,服务器端接收这些扰动嵌入进行微调或推理等操作。

本发明授权一种自适应语义感知的大语言模型隐私保护方法及设备在权利要求书中公布了:1.一种自适应语义感知的大语言模型隐私保护方法,其特征在于,包括以下步骤: 服务器端将预训练大语言模型拆分出底部嵌入层和其余层,将底部嵌入层下载至客户端,其余层则保留在服务器端; 客户端接收原始输入文本,使用底部嵌入层将输入文本转换为词嵌入; 在预训练阶段,客户端训练一个生成器和一个采样器;生成器用于接收词嵌入,生成扰动后的词嵌入;采样器用于根据学习的概率分布选择需要替换的词及其替换概率; 在增强训练阶段,将预训练的生成器与基于Transformer的判别器进行对抗训练,采样器生成语义近似的文本,以引导生成器生成更加真实和符合语义的样本; 将经过增强训练后的生成器生成的扰动文本,通过大型语言模型的词嵌入层生成扰动嵌入后,并传输至服务器端进行微调和推理任务; 所述采样器生成语义近似的文本,以引导生成器生成更加真实和符合语义的样本,包括: 采样器通过定位器和替换器预先计算好和,确定需要替换的token数量;其中,为每个token位置的替换概率,为每个位置token替换词的概率; 根据中的最高值,选择前个token进行替换,形成替换索引集合; 对于每个样本,执行以下操作: A1、创建文本数据的克隆; A2、对于每个位置处的,执行如下: A21、从相似词矩阵中检索与最相似的个; A22、根据中的替换概率,从中采样一个替换; A23、将替换为; A3、将修改后的序列添加到采样token集合。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华南理工大学,其通讯地址为:510641 广东省广州市天河区五山路381号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。