买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中山大学申请的专利一种混合专家模型推理方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119312935B 。

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411762996.X，技术领域涉及：G06N5/04；该发明授权一种混合专家模型推理方法及装置是由陈武辉;方志远;黄月贵;郑子彬设计研发完成，并于2024-12-03向国家知识产权局提交的专利申请。

本一种混合专家模型推理方法及装置在说明书摘要公布了：本发明公开了一种混合专家模型推理方法及装置，用于解决现有的基于混合专家模型的推理过程导致推理效率低的技术问题。方法包括获取预运行文本数据集，并对预置混合专家模型进行专家量化，确定量化混合专家模型；采用预置火炬函数根据量化混合专家模型的模型配置文件对量化混合专家模型对应的初始内存环境进行调整，确定目标内存环境；在目标内存环境中，将预运行文本数据集输入至量化混合专家模型进行预运行推理，确定模型计算平均时长；采用预置专家预取不等式根据模型计算平均时长，计算可预取专家数量；在目标内存环境中，基于可预取专家数量，采用量化混合专家模型对待推理文本数据进行推理，输出模型推理结果。

本发明授权一种混合专家模型推理方法及装置在权利要求书中公布了：1.一种混合专家模型推理方法，其特征在于，包括： 获取预运行文本数据集，并对预置混合专家模型进行专家量化，确定量化混合专家模型； 采用预置火炬函数根据所述量化混合专家模型的模型配置文件对所述量化混合专家模型对应的初始内存环境进行调整，确定目标内存环境，包括： 基于预置火炬函数对所述量化混合专家模型对应的初始内存环境进行内存识别，输出内存预算； 基于所述模型配置文件，确定所述量化混合专家模型对应的网络层形状大小； 根据所述网络层形状大小，计算网络层占用内存大小； 对所述内存预算和所述网络层占用内存大小进行减法运算，输出剩余空间预算； 对所述剩余空间预算和所述网络层占用内存大小中的单个专家占用内存大小进行除法运算，确定可缓存专家总数量； 根据所述可缓存专家总数量和所述量化混合专家模型对应的网络层数据，计算深层专家缓存数量； 基于所述深层专家缓存数量和所述网络层数据中的浅层专家全缓存层数，对所述量化混合专家模型对应的初始内存环境进行调整，确定目标内存环境； 在所述目标内存环境中，将所述预运行文本数据集输入至所述量化混合专家模型进行预运行推理，确定模型计算平均时长； 采用预置专家预取不等式根据所述模型计算平均时长，计算可预取专家数量； 在所述目标内存环境中，基于所述可预取专家数量，采用所述量化混合专家模型对待推理文本数据进行推理，输出模型推理结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中山大学，其通讯地址为：510275 广东省广州市海珠区新港西路135号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。