买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利面向无线网络中大语言模型协作推理资源分配方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120378960B 。

龙图腾网通过国家知识产权局官网在2025-10-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510840439.3，技术领域涉及：H04W28/086；该发明授权面向无线网络中大语言模型协作推理资源分配方法及系统是由田辉;孙浩峰;张平;田洋;戴佐俊;郑景桁设计研发完成，并于2025-06-23向国家知识产权局提交的专利申请。

本面向无线网络中大语言模型协作推理资源分配方法及系统在说明书摘要公布了：本发明涉及无线通信技术领域，特别是一种面向无线网络中大语言模型协作推理资源分配方法及系统，在每一个协作推理轮次内，基站获取各终端到基站的信道增益，生成资源分配方案，各终端依据终端侧中央处理器频率、上行传输带宽与上行传输功率分配方案和基站侧缓存分配方案进行终端侧大语言模型推理，并计算终端侧输出序列，基站接收终端侧输出序列以及缓存序列后，依据基站侧中央处理器频率分配方案进行基站侧大语言模型推理，获取输出词元，并将输出词元发送至各终端。本发明利用基站侧的计算与缓存资源加速无线网络中大语言模型协作推理，降低协作推理时延。

本发明授权面向无线网络中大语言模型协作推理资源分配方法及系统在权利要求书中公布了：1.一种面向无线网络中大语言模型协作推理资源分配方法，其特征在于，包括如下步骤： S1在每一个协作推理轮次内，基站获取各终端k到基站的信道增益，生成资源分配方案，包括：终端侧中央处理器频率、上行传输带宽与上行传输功率分配方案，基站侧中央处理器频率分配方案，基站侧缓存分配方案； 生成资源分配方案前还包括： 预设各个终端上行传输功率约束： 其中为各终端最大上行传输功率； 预设各个终端中央处理器频率约束： 其中为各终端最大中央处理器频率； 预设各个终端能量消耗约束： 其中为各终端最大能量消耗； 预设终端侧上行传输带宽约束： 其中W为所述无线网络中最大传输带宽； 预设基站侧中央处理器频率约束： 其中为基站最大中央处理器频率； 预设基站侧缓存约束： 其中，H为基站用于缓存基站侧大语言模型每一词元的中间计算结果的比特数，为基站侧最大缓存量； 预设最大推理时延约束： 其中T为最大推理时延； 求解预设的平均协作推理时延最小化问题的方程为： 平均协作推理时延最小化方程满足上述约束； S2各终端k依据终端侧中央处理器频率、上行传输带宽与上行传输功率分配方案和基站侧缓存分配方案进行终端侧大语言模型MV推理，并计算终端侧输出序列yk；终端k将终端侧输出序列yk的后Lk-Sk行，即yk[Lk-Sk+1:Lk]，上行传输至基站；其中，Lk为终端k在协作推理轮次开始前持有的输入词元序列xk的长度，Sk为基站对终端k的缓存序列长度； 每个终端通过使用频分多址与基站进行通信； 终端k的上行传输速率为： 其中，Wk和pk分别为终端k的分配上行传输带宽与上行传输功率，N0是单侧噪声功率谱密度，hk为终端k到基站的信道增益； 终端k的上行传输时延为： 其中D为用于传输一行终端侧输出序列所需比特位数； 终端k所需上行传输能量为： 其中，pk为终端k的分配上行传输功率； 所述计算终端侧输出序列过程为： 各终端k利用终端侧大语言模型MV以及输入词元序列xk进行计算得到其中Q为终端侧输出序列yk隐藏维度； S3基站接收终端侧输出序列以及缓存序列后，依据基站侧中央处理器频率分配方案进行基站侧大语言模型MS推理，获取输出词元，并将输出词元发送至各终端； 所述输出词元计算过程为： 基站利用终端侧输出序列以及缓存序列计算得到： Tokenk＝argmax{MSyk[Lk-Sk+1:Lk][Lk-Sk]}， 其中，Lk为终端k在协作推理轮次开始前持有的输入词元序列xk的长度，Sk为基站对终端k的缓存序列长度。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100876 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。