买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：广东电网有限责任公司

摘要：本发明公开了一种大模型计算任务卸载和语义编码优化方法及系统，接收用户端的大模型计算任务，根据本地计算时延、边缘计算时延和用户传输时延，得到系统总体时延，根据本地计算能耗、边缘计算能耗和用户传输能耗得到系统总体能耗，根据系统总体时延和系统总体能耗计算得到系统综合成本后，构建计算任务卸载模型后，对计算任务卸载模型进行求解，得到最优卸载策略，根据最优卸载策略得到最终带宽和算例资源量，并利用最优卸载策略对语义编码策略进行优化，得到最优语义率，本方法通过对大模型计算任务卸载策略和语义编码策略进行优化，使得系统可以从大模型的高维任务中提取出低维语义信息以进行传输，降低了通信的时延和能耗开销。

主权项：1.一种大模型计算任务卸载和语义编码优化方法，其特征在于，包括：接收用户端的大模型计算任务；选择本地计算模式或边缘计算模式对所述大模型计算任务进行卸载，若选择本地计算模式对所述大模型计算任务进行卸载，则得到本地计算时延和本地计算能耗，若选择边缘计算模式对所述大模型计算任务进行卸载，则得到边缘计算时延和边缘计算能耗；根据所述本地计算时延、所述边缘计算时延和用户传输时延，得到系统总体时延，根据所述本地计算能耗、所述边缘计算能耗和用户传输能耗得到系统总体能耗；根据所述系统总体时延和系统总体能耗计算得到系统综合成本，根据所述系统综合成本构建计算任务卸载模型后，对所述计算任务卸载模型进行求解，得到最优卸载策略；根据所述最优卸载策略得到最终带宽和算例资源量，并利用所述最优卸载策略对语义编码策略进行优化，得到最优语义率，以使系统根据所述最终带宽、所述算例资源量和所述最优语义率对所述大模型计算任务进行卸载和编码；根据所述系统总体时延和系统总体能耗计算得到系统综合成本，根据所述系统综合成本构建计算任务卸载模型后，对所述计算任务卸载模型进行求解，得到最优卸载策略，具体为：根据所述系统总体时延和系统总体能耗计算得到系统综合成本，其中，所述系统综合成本的计算公式为：Φ＝ηT+1-ηE式中，Φ表示系统综合成本，T表示系统总体时延，E表示系统总体能耗，η∈[0，1]为评估系统时延和能耗的加权因子；根据所述系统综合成本构建计算任务卸载模型，其中，所述计算任务卸载模型的目标函数和约束条件为： 式中，Φ表示系统综合成本，WCAP为系统总带宽，FCAP为CAP端总算力，为本地算力最小值，为本地算力最大值，m表示第M个用户，表示用户集合，αm表示二元卸载因子，km表示一个神经网络中的参数符号，表示分配给用户m的带宽，表示本地计算能力，为CAP端分配给用户m的算力，ψth语义相似度阈值，ψm语义相似度；根据所述最优卸载策略得到最终带宽和算例资源量，具体为：通过马尔科夫决策过程对所述计算任务卸载模型进行求解，得到最优卸载策略；利用预设公式对所述最优卸载策略进行计算，得到最终带宽和算例资源量，其中，所述预设公式为: 式中，So表示已卸载到CAP端用户集合，Sl表示本地计算的用户集合，|·|为集合取迹操作，表示本地计算能力，为CAP端分配给用户m的算力，为本地算力最小值，为本地算力最大值，FCAP为CAP端总算力，WCAP为系统总带宽，表示分配给用户m的带宽；所述利用所述最优卸载策略对语义编码策略进行优化，得到最优语义率，具体为：根据最优卸载策略和语义相似度，采用二分算法对语义率进行计算，得到最优语义率。

全文数据：

权利要求：

百度查询： 广东电网有限责任公司 一种大模型计算任务卸载和语义编码优化方法及系统