买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜湖南先汇智能科技有限公司申请的专利一种用于边缘设备大模型的提示词压缩方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119918678B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510409012.8，技术领域涉及：G06N5/04；该发明授权一种用于边缘设备大模型的提示词压缩方法和系统是由杨富元;郭慧;陈润泽;刘会鹏;余俊辉设计研发完成，并于2025-04-02向国家知识产权局提交的专利申请。

本一种用于边缘设备大模型的提示词压缩方法和系统在说明书摘要公布了：本发明适用于提示词压缩技术领域，提供了一种用于边缘设备大模型的提示词压缩方法和系统。本发明通过对边缘设备大模型进行性能测试，建立输入长度与处理时间的回归模型，基于预设的预期处理时间，确定最长Prompt长度；将输入Prompt划分为多个关键段落和多个非关键段落，并计算多个非关键段落与多个关键段落的语义关联度；计算多个关键段落的关键总长度，将关键总长度与最长Prompt长度进行比较，对输入Prompt进行多轮Prompt压缩。能够通过关键段落导向的压缩方法，减轻压缩过程的工作量，兼顾推理精度与延迟需求，既能够在语义保留方面表现优秀，又能够限制内存消耗和推理延迟，有效支持后续的推理工作。

本发明授权一种用于边缘设备大模型的提示词压缩方法和系统在权利要求书中公布了：1.一种用于边缘设备大模型的提示词压缩方法，其特征在于，所述方法具体包括以下步骤： 对边缘设备大模型进行性能测试，建立输入长度与处理时间的回归模型，基于预设的预期处理时间，确定最长Prompt长度； 接收输入Prompt，将所述输入Prompt划分为多个关键段落和多个非关键段落，并计算多个所述非关键段落与多个所述关键段落的语义关联度； 计算多个所述关键段落的关键总长度，将所述关键总长度与所述最长Prompt长度进行比较，对所述输入Prompt进行多轮Prompt压缩； 所述计算多个所述关键段落的关键总长度，将所述关键总长度与所述最长Prompt长度进行比较，对所述输入Prompt进行多轮Prompt压缩具体包括以下步骤： 计算多个所述关键段落的关键总长度； 将所述关键总长度与所述最长Prompt长度进行比较，计算分配总长度； 若所述分配总长度不大于0，则保留多个关键段落，对多个所述非关键段落进行压缩； 若所述分配总长度大于0，则计算多个所述非关键段落的非关键总长度； 将所述非关键总长度与所述分配总长度进行比较； 若所述非关键总长度不小于0，则保留多个非关键段落； 若所述非关键总长度小于0，则按照多个所述语义关联度，对多个所述非关键段落进行选择压缩。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人湖南先汇智能科技有限公司，其通讯地址为：410000 湖南省长沙市高新开发区麓谷街道青山路662号芯城科技园二期1栋201-8；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。