买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利基于浅层特征预训练的联邦学习大模型进行文本分类的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116522220B 。

龙图腾网通过国家知识产权局官网在2025-12-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310401602.7，技术领域涉及：G06F18/241；该发明授权基于浅层特征预训练的联邦学习大模型进行文本分类的方法是由陈珂;王鑫澳;寿黎但;李环;陈刚设计研发完成，并于2023-04-07向国家知识产权局提交的专利申请。

本基于浅层特征预训练的联邦学习大模型进行文本分类的方法在说明书摘要公布了：本发明公开了一种基于浅层特征预训练的联邦学习大模型进行文本分类的方法，包括：服务端获取全局模型；客户端获取全局模型的初始参数，并根据全局模型的初始参数和服务端指定的待训练的处理层编号l构建本地模型，对本地模型进行训练；客户端将更新的第l层处理层的参数以及输出层参数上传至服务端进行聚合，得到更新的参数，更新服务端的全局模型，并将更新的参数下发给各个客户端进行新一轮的联邦学习训练；客户端从服务端得到更新的参数和服务端新指定的待训练的处理层编号l'，重复进行联邦学习；完成联邦学习后，服务端使用各个客户端聚合得到的参数替换全局模型的对应参数，得到进一步预训练好的全局模型，微调后进行专业领域的文本分类。

本发明授权基于浅层特征预训练的联邦学习大模型进行文本分类的方法在权利要求书中公布了：1.一种基于浅层特征预训练的联邦学习大模型进行文本分类的方法，其特征在于，所述方法包括： 步骤S1，服务端获取全局模型，并采集专业领域的文本分类任务的测试数据；客户端采集专业领域的无标注预训练数据； 步骤S2，客户端获取全局模型的初始参数，并根据全局模型的初始参数和服务端指定的待训练的处理层编号l构建本地模型，利用专业领域的无标注预训练数据对本地模型进行训练； 步骤S3，客户端将更新的第l层处理层的参数以及输出层参数上传至服务端进行聚合，得到更新的参数，更新服务端的全局模型，并将更新的参数下发给各个客户端进行新一轮的联邦学习训练； 步骤S4，客户端从服务端得到更新的参数和服务端新指定的待训练的处理层编号l'，重复进行联邦学习； 步骤S5，联邦学习训练达到预设的轮次或者服务端的全局模型收敛之后，服务端使用各个客户端聚合得到的参数替换全局模型的对应参数，得到训练好的全局模型，再使用全局模型对专业领域的文本分类任务的测试数据进行文本分类； 其中，构建本地模型包括： 根据服务端指定的待训练的处理层编号l，对全局模型第0层处理层～第l层处理层的参数进行直接映射得到本地模型的第0层处理层～第l层处理层的参数，对全局模型第l+1层处理层～第L层处理层的参数随机采样得到本地模型的第l+1层处理层～第Lk层处理层的参数； 服务端指定的待训练的处理层编号l包括： 设定当前联邦训练的迭代轮次为i以及总联邦训练迭代轮次为I； 当i＝0时，设定需要训练的T-Layer层编号l＝0； 当完成剩余联邦学习迭代轮次的一半之后，即完成轮次的联邦学习迭代之后，更新需要训练的T-Layer层编号l＝l+1，同时剩余联邦学习迭代轮次为 每完成剩余联邦学习迭代轮次的一半之后，就更新需要训练的T-Layer层编号l＝l+1。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。