买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉普强信息技术(北京)有限公司申请的专利一种提升AI大模型工具调用响应速度的方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118502845B 。

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410590972.4，技术领域涉及：G06F9/448；该发明授权一种提升AI大模型工具调用响应速度的方法及装置是由司玉景;李全忠;何国涛;蒲瑶设计研发完成，并于2024-05-13向国家知识产权局提交的专利申请。

本一种提升AI大模型工具调用响应速度的方法及装置在说明书摘要公布了：本发明提供一种提升AI大模型工具调用响应速度的方法及装置，方法包括：调整AI大模型的输出策略，设计AI大模型的输出逻辑，在处理用户请求时AI大模型首先生成对用户的回复话术，随后再生成结构化的函数调用信息；结构化的函数调用信息采用JSON格式的数据结构，包含函数的名称和对应的参数。本发明通过调整AI大模型的输出策略，实现新的响应机制，AI大模型首先输出回复用户的话术，然后才是结构化的函数调用信息，在AI大模型生成回复话术，便可流式地给用户进行回复，同时函数调用信息的结构化数据也在同时生成，有效缩短用户的等待时间；优化AI大模型的输出策略，减少用户等待时间，显著提升了AI大模型工具调用的响应速度。

本发明授权一种提升AI大模型工具调用响应速度的方法及装置在权利要求书中公布了：1.一种提升AI大模型工具调用响应速度的方法，其特征在于，包括： 调整AI大模型的输出策略，重新设计AI大模型的输出逻辑，利用特定的标识区分话术结束和函数调用信息开始的位置，在处理用户请求时，AI大模型首先生成对用户的回复话术，回应给用户的同时生成结构化的函数调用信息；所述结构化的函数调用信息采用JSON格式的数据结构，包含函数的名称和对应的参数； 所述生成对用户的回复话术的方法包括以下步骤： S01、由AI大模型根据用户对话上下文信息和当前指令，以及用户的历史行为信息，判断用户的意图，以便更准确地理解用户请求的具体含义； S02、基于对用户意图和上下文的理解，由AI大模型使用其预训练的语言生成能力构造回复话术，涉及到选择合适的词汇、构造句子结构、并确保话术的流畅性和自然性； S03、由AI大模型根据用户的特性对话术进行个性化，并通过内部的优化算法提高话术的相关性和满意度； S04、将生成的回复话术输出给用户，通知用户请求正在被处理，并且提供必要的信息或指引，以维持流畅的对话和良好的用户体验； 所述生成结构化的函数调用信息的方法包括以下步骤： S1、由AI大模型接收并解析用户的输入请求，理解用户的意图和所需的信息类型； S2、在解析用户请求的基础上，由AI大模型生成回复用户的话术； S3、根据用户的请求，由AI大模型确定需要调用的函数名称以及对应的参数； S4、将确定的函数名称和对应的参数按照JSON格式构建成一个结构化的数据对象； S5、由AI大模型首先输出生成的回复话术给用户，以便用户能够即时得到响应，随后输出结构化的函数调用信息； S6、在AI大模型输出回复话术的同时，并行地处理结构化的函数调用信息，调用相应的函数接口获取所需数据； S7、当函数接口返回结果时，AI大模型将返回的所述结果进行处理，并生成最终的回复给用户，完成整个交互过程； 所述结构化的函数调用信息中的对应的参数包括以下几类：查询条件、操作类型、用户偏好、身份验证； 所述查询条件为当用户请求查询某类信息时，需提供的时间、地点、关键词的条件； 所述操作类型为某些函数需要知道用户希望执行的具体操作； 所述用户偏好为用户的特定的偏好或要求； 所述身份验证为如果请求涉及到需要验证用户身份的操作； 所述S4步骤的所述结构化的数据对象中包含函数名称的字段和所有参数的子对象。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人普强信息技术(北京)有限公司，其通讯地址为：100085 北京市海淀区上地信息路26号5层0523房间；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。