买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:上海数珩信息科技股份有限公司
摘要:本发明涉及一种自动实现大语言模型微调的装置及方法,其装置包括:数据预处理模块,通过数据接口与外部原始数据源连接,将清洗、标注和格式化后的数据传递给模型加载模块;模型加载模块,连接到存储介质以获取预训练模型,并将加载的模型传递给训练管理模块;训练管理模块,接收训练数据和模型参数,同时传递训练过程中的中间结果和最终模型;性能评估模块,连接到训练管理模块,接收训练结果,并将性能指标反馈给自动化调整模块;自动化调整模块,根据性能评估模块的反馈结果,自动调整模型的超参数和训练策略;本发明实现了大语言模型微调过程的高度自动化和智能化,显著提高了数据预处理和模型训练的效率,缩短了整体微调时间。
主权项:1.一种自动实现大语言模型微调的装置,其特征在于,包括:数据预处理模块,用于通过数据接口与外部原始数据源连接,将清洗、标注和格式化后的数据传递给模型加载模块;模型加载模块,用于连接到存储介质以获取预训练模型,并将加载的模型传递给训练管理模块;训练管理模块,用于与数据预处理模块和模型加载模块连接,接收训练数据和模型参数,同时与性能评估模块连接,传递训练过程中的中间结果和最终模型;性能评估模块,用于连接到训练管理模块,接收训练结果,并将性能指标反馈给自动化调整模块;自动化调整模块,用于根据性能评估模块的反馈结果,自动调整模型的超参数和训练策略,以进一步优化模型性能。
全文数据:
权利要求:
百度查询: 上海数珩信息科技股份有限公司 一种自动实现大语言模型微调的装置及方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。