买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浪潮通用软件有限公司申请的专利大语言模型位置编码和语义机制间的自发转化方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120892947B 。

龙图腾网通过国家知识产权局官网在2026-01-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511414874.6，技术领域涉及：G06F18/2431；该发明授权大语言模型位置编码和语义机制间的自发转化方法及系统是由蒋传辉;郑伟波;路宽;丁一凡;郑伟航;郭明达;宋立钦;刘金桐设计研发完成，并于2025-09-30向国家知识产权局提交的专利申请。

本大语言模型位置编码和语义机制间的自发转化方法及系统在说明书摘要公布了：本发明涉及自然语言处理技术领域，提供了一种大语言模型位置编码和语义机制间的自发转化方法及系统。大语言模型位置编码和语义机制间的自发转化方法包括，根据训练样本数量和输入token维度，计算样本复杂度；当样本复杂度小于样本复杂度阈值，大语言模型采用基于位置编码的注意力机制处理输入数据；当样本复杂度从低样本侧无限接近样本复杂度阈值时，查询矩阵的低秩映射矩阵的极限值等于位置编码映射矩阵；当样本复杂度从高样本侧无限接近样本复杂度阈值时，查询矩阵的低秩映射矩阵的极限值等于语义特征映射矩阵；当样本复杂度大于样本复杂度阈值，则大语言模型采用语义增强的注意力机制处理输入数据；能够实现大语言模型高效地理解与生成。

本发明授权大语言模型位置编码和语义机制间的自发转化方法及系统在权利要求书中公布了：1.一种大语言模型位置编码和语义机制间的自发转化方法，其特征在于，包括： 根据训练样本数量和输入token维度，计算样本复杂度； 当样本复杂度小于样本复杂度阈值，大语言模型采用基于位置编码的注意力机制处理输入数据；当样本复杂度从低样本侧无限接近样本复杂度阈值时，查询矩阵的低秩映射矩阵的极限值等于位置编码映射矩阵；当样本复杂度从高样本侧无限接近样本复杂度阈值时，查询矩阵的低秩映射矩阵的极限值等于语义特征映射矩阵；当样本复杂度大于样本复杂度阈值，则大语言模型采用语义增强的注意力机制处理输入数据； 所述样本复杂度，采用以下公式表示： 其中，M表示训练样本数量；d表示输入token维度； 当样本复杂度小于样本复杂度阈值时，查询矩阵Q与键矩阵K的低秩映射矩阵、用于学习位置编码特征，即、，其中表示位置编码映射矩阵；注意力权重为：，其中，为仅与位置距离相关的函数；m、n表示粒子； 当样本复杂度等于样本复杂度阈值时，注意力权重的决定因素从位置差平滑过渡为token语义相似度，满足，其中表示n与m的语义相似度，表示语义相似度相关函数； 当样本复杂度大于样本复杂度阈值时，查询矩阵Q与键矩阵K通过学习语义权重，实现，，其中，表示n的查询向量，表示m的键向量；表示token的语义特征；、表示语义适配映射矩阵；注意力权重为：。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浪潮通用软件有限公司，其通讯地址为：250000 山东省济南市历下区浪潮路1036号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。