买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海人工智能创新中心申请的专利语言推理服务器、用于语言推理的方法、用于视觉语言大模型推理的系统、介质和产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120725153B 。

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511140949.6，技术领域涉及：G06N5/04；该发明授权语言推理服务器、用于语言推理的方法、用于视觉语言大模型推理的系统、介质和产品是由王文海;苏伟杰;乔宇;吕晗;邵杰;崔龙;王玮赟设计研发完成，并于2025-08-15向国家知识产权局提交的专利申请。

本语言推理服务器、用于语言推理的方法、用于视觉语言大模型推理的系统、介质和产品在说明书摘要公布了：本发明总体涉及基于特定计算模型的计算机系统，具体涉及语言推理服务器、用于语言推理的方法、用于视觉语言大模型推理的系统、介质和产品。一种语言推理服务器包括计算资源、大语言模型、缓存池和任务调度组件。任务调度组件响应于检测到大语言模型需要执行与第一词嵌入和语言要素相关联的语言推理的第一部分时，基于第一请求标识来检查缓存映射字典，基于检查的结果，选择性地从缓存池加载第一词嵌入，并选择性地指示大语言模型调用计算资源来执行语言推理任务的第一部分。其中，大语言模型执行该第一部分与视觉服务器执行视觉编码计算的至少部分地同时进行。一些实施例提高了系统吞吐量，并降低了系统时延。

本发明授权语言推理服务器、用于语言推理的方法、用于视觉语言大模型推理的系统、介质和产品在权利要求书中公布了：1.一种语言推理服务器，其特征在于，包括： 计算资源； 大语言模型，用于调用所述计算资源以执行与来自用户的请求相关联的语言推理任务，所述请求包括多个图像和语言要素，并且与图文处理任务相关联； 缓存池，用于缓存所述语言推理任务所需的词嵌入，所述缓存池中的词嵌入来自与所述语言推理服务器通信地耦合的视觉处理服务器执行与所述多个图像相关联的视觉编码计算的结果，所述缓存池包括缓存映射字典，所述缓存映射字典用于将词嵌入与请求标识相关联；以及 任务调度组件，所述任务调度组件被配置成： 接收所述请求； 响应于检测到所述大语言模型需要执行与第一词嵌入和所述语言要素相关联的所述语言推理任务的第一部分， 基于与所述第一词嵌入相关联的第一请求标识来检查所述缓存映射字典； 基于所述检查的结果，选择性地从所述缓存池加载所述第一词嵌入，并选择性地指示所述大语言模型调用所述计算资源来执行所述语言推理任务的第一部分， 其中，所述大语言模型执行所述语言推理任务的第一部分与所述视觉处理服务器执行所述视觉编码计算至少部分地同时进行， 其中，对所述第一请求的第一响应至少部分地基于所述语言推理任务的第一部分的执行结果来确定。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海人工智能创新中心，其通讯地址为：200233 上海市徐汇区龙文路129号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。