买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中科云谷科技有限公司
申请日:2024-12-26
公开(公告)日:2025-01-24
公开(公告)号:CN119358644A
专利技术分类:...分布式学习,例如:联邦学习[2023.01]
专利摘要:本申请涉及人工智能技术领域,尤其是一种训练垂域大模型的方法、装置及存储介质。包括:确定目标垂域对应的多个参与方,多个参与方拥有目标垂域的本地文本数据;将目标垂域的初始大模型分发至多个参与方,以使多个参与方基于各自所拥有的目标垂域的本地文本数据迭代训练初始大模型;获取多个参与方各自返回的迭代训练得到的临时大模型,并将其中校验合规的临时大模型进行聚合得到当前最新的聚合大模型;在满足迭代训练的终止条件的情况下,将当前最新的聚合大模型确定为目标垂域对应的垂域大模型以使得垂域大模型的数据覆盖范围更广泛,提高数据的多样性,使得后续的用户查询检索更为准确、全面,且确保各个参与方的数据保密。
专利权项:1.一种训练垂域大模型的方法,其特征在于,所述方法包括:确定目标垂域对应的多个参与方,所述多个参与方拥有所述目标垂域的本地文本数据;将所述目标垂域的初始大模型分发至所述多个参与方,以使所述多个参与方基于各自所拥有的所述目标垂域的本地文本数据迭代训练所述初始大模型;获取所述多个参与方各自返回的迭代训练得到的临时大模型,并将其中校验合规的临时大模型进行聚合得到当前最新的聚合大模型;在满足迭代训练的终止条件的情况下,将所述当前最新的聚合大模型确定为所述目标垂域对应的垂域大模型。
百度查询: 中科云谷科技有限公司 训练垂域大模型的方法、装置及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。