龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：中国移动通信集团浙江有限公司;中国移动(浙江)创新研究院有限公司;中国移动通信集团有限公司
摘要：本申请公开了一种模型训练加速方法和装置，该模型训练加速方法包括：在模型训练过程中，对梯度变化率低于冻结阈值的网络层进行冻结，所述冻结用于使得所述网络层停止反向传播；根据衰减系数对所述冻结阈值进行衰减处理，得到衰减冻结阈值；利用未冻结的网络层进行模型训练，对梯度变化率低于所述衰减冻结阈值的网络层进行冻结，直至所述模型训练达到预设精度或预设次数为止。本申请实施例在模型训练过程中逐渐冻结部分网络层，以停止反向传播，有效减少了显存占用提升运算效率，提升训练速度，同时对冻结阈值进行衰减处理，避免提前将未训练收敛的网络层冻结的情况发生。
主权项：1.一种模型训练加速方法，其特征在于，包括：在模型训练过程中，对梯度变化率低于冻结阈值的网络层进行冻结，所述冻结用于使得所述网络层停止反向传播；根据衰减系数对所述冻结阈值进行衰减处理，得到衰减冻结阈值；利用未冻结的网络层进行模型训练，对梯度变化率低于所述衰减冻结阈值的网络层进行冻结，直至所述模型训练达到预设精度或预设次数为止。
全文数据：
权利要求：
百度查询： 中国移动通信集团浙江有限公司 中国移动(浙江)创新研究院有限公司 中国移动通信集团有限公司 模型训练加速方法和装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号