买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉昆明理工大学申请的专利一种面向政务领域的模型异构联邦学习训练方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119761535B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411906539.3，技术领域涉及：G06F21/62；该发明授权一种面向政务领域的模型异构联邦学习训练方法和装置是由杨修琦;王海瑞设计研发完成，并于2024-12-23向国家知识产权局提交的专利申请。

本一种面向政务领域的模型异构联邦学习训练方法和装置在说明书摘要公布了：本公开实施例涉及一种面向政务领域的模型异构联邦学习训练方法和装置，涉及隐私计算技术领域，其中，方法包括：每个参与方确定本地个性化模型和知识传递模型，并初始化各模型参数；每个参与方固定知识传递模型并基于本地持有数据在训练本地个性化模型、以及完成本地个性化模型训练后，固定本地个性化模型并训练知识传递模型，训练完成后将知识传递模型参数加密发送给协调方；协调方收到加密参数后实现密文下的聚合计算，并将聚合结果下发给各参与方更新知识传递模型参数；重复执行模型训练和模型参数更新，直到每个参与方的本地个性化模型收敛。采用上述技术方案，实现了模型异构场景下的安全联合建模，提高了多参与方本地模型的个性化。

本发明授权一种面向政务领域的模型异构联邦学习训练方法和装置在权利要求书中公布了：1.一种面向政务领域的模型异构联邦学习训练方法，其特征在于，包括多个参与方，并将所述多个参与方中的任一参与方作为协调方，每个所述参与方对应一个本地个性化模型和一个知识传递模型，所述方法包括： 步骤S1、每个所述参与方基于本地任务目标确定本地个性化模型，并基于所述本地个性化模型确定知识传递模型，以及确定所述本地个性化模型和所述知识传递模型的模型参数初始值；其中，用于训练所述本地个性化模型和所述知识传递模型的输入数据样本相同，所述知识传递模型的模型参数维度小于所述本地个性化模型的模型参数维度； 步骤S2、每个所述参与方控制所述知识传递模型的模型参数保持不变，基于每个所述参与方的本地私有数据集样本对所述本地个性化模型进行训练，基于预设的本地个性化模型的损失函数获取所述本地个性化模型的训练损失值，并基于所述本地个性化模型的训练损失值和预设的本地训练损失阈值调整所述本地个性化模型的模型参数；其中，所述本地私有数据集样本是指每个所述参与方本地持有且对其他参与方不可见的数据集样本； 步骤S3、每个所述参与方控制训练后的本地个性化模型的模型参数保持不变，基于所述本地私有数据集样本对所述知识传递模型进行训练，基于预设的知识传递模型的损失函数获取所述知识传递模型的训练损失值，并基于所述知识传递模型的训练损失值和预设的知识训练损失阈值调整所述知识传递模型的模型参数； 步骤S4、每个所述参与方在所述知识传递模型的训练损失值小于所述知识训练损失阈值或者训练次数等于预设的知识训练次数阈值时，基于预设的加密算法将训练后的知识传递模型的模型参数进行加密后发送给所述协调方，以使所述协调方将所有所述参与方发送的知识传递模型的模型参数进行聚合计算，得到聚合模型参数并发送给每个所述参与方； 步骤S5、每个所述参与方基于所述聚合模型参数对所述知识传递模型的模型参数进行更新； 步骤S6、重复执行步骤S2至S5直到每个所述参与方的本地个性化模型的训练损失值小于所述本地训练损失阈值或者本地训练次数等于预设的本地训练次数阈值，得到每个所述参与方的本地个性化模型； 其中，所述步骤S1、每个所述参与方基于本地任务目标确定本地个性化模型，并基于所述本地个性化模型确定知识传递模型，以及确定所述本地个性化模型和所述知识传递模型的模型参数初始值，包括： 每个所述参与方基于本地任务目标确定本地个性化模型为fiθi,X，i∈{1,…,n}，其中，θi为第i个参与方本地个性化模型的模型参数，X为本地个性化模型的输入数据样本，n为所述参与方的数量； 基于所述本地个性化模型确定知识传递模型为其中，为第i个参与方知识传递模型的模型参数，X是为知识传递模型的输入数据样本； 对所述θi和所述进行参数初始化处理，确定所述θi和所述的初始值；其中，所述的维度小于所述θi； 其中，每个所述参与方分别为用于表示机构A的设备A1、表示机构B的设备B1和表示机构C的设备C2，在设备A1基于本地任务目标为文本分类任务确定本地个性化模型a1，并根据本地个性化模型a1确定知识传递模型a2；在设备B1基于本地任务目标为图像识别任务确定本地个性化模型b1，并根据本地个性化模型b1确定知识传递模型b2；在设备C1基于本地任务目标为视频目标识别任务确定本地个性化模型c1，并根据本地个性化模型c1确定知识传递模型c2； 所述步骤S2、每个所述参与方控制所述知识传递模型的模型参数保持不变，基于每个所述参与方的本地私有数据集样本对所述本地个性化模型进行训练，基于预设的本地个性化模型的损失函数获取所述本地个性化模型的训练损失值，并基于所述本地个性化模型的训练损失值和预设的本地训练损失阈值调整所述本地个性化模型的模型参数，包括： 每个所述参与方获取本地私有数据集样本；其中，第i个参与方的本地私有数据集样本为表示第j条样本，mi表示第i个参与方持有本地私有数据集中的数据条数，表示第i个参与方持有的第j条样本数据特征，表示第i个参与方持有的第j条样本数据标签；其中，所述本地私有数据集样本是指每个所述参与方本地对应的设备持有的数据集样本；不同的本地个性化模型对应的数据集样本不同，包括文本数据集样本、图像数据集样本和视频数据集样本中至少一种； 每个所述参与方控制所述知识传递模型的模型参数保持不变，将所述本地私有数据集样本输入本地个性化模型进行处理，并基于本地个性化模型的损失函数获取所述本地个性化模型的训练损失值；其中，第i个参与方的所述本地个性化模型的损失函数为 其中，ki和分别表示本地个性化模型训练损失函数的权重和知识传递模型训练损失函数的权重，mi表示第i个参与方本地私有数据集中的数据条数，表示第i个参与方本地个性化模型对第j条样本数据特征的标签预测值，表示第i个参与方知识传递模型对j条样本数据特征的标签预测值，表示参与方本地个性化模型的损失函数，表示知识传递模型的损失函数； 在所述本地个性化模型的训练损失值大于等于本地训练损失阈值时调整所述本地个性化模型的模型参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人昆明理工大学，其通讯地址为：650499 云南省昆明市一二一大街文昌路68号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。