龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：广东工业大学
摘要：本发明公开了一种基于深度学习的AI加速器量化算法，该方法包括获取预训练模型的各项参数，对权重的输入激活值进行限制和映射，得到输入激活的位宽；对预训练模型的浮点数数据进行预处理；基于输入激活的位宽对第一张量进行分组量化；对分组量化数据进行绝对值累加，并计算原始数据与分组量化数据的绝对值累加值的误差；设置超参数空间，并调整超参数组合；基于不同超参数组合和绝对值累加值的误差筛选分组量化数据；对预训练模型进行训练，并使损失函数最小化，得到最优的比特位权值分布及其对应的分组量化数据。通过使用本发明能够在保持精度的前提下，灵活地将每一层的数据量化为合适的量化位宽。本发明可广泛应用于人工智能技术领域。
主权项：1.一种基于深度学习的AI加速器量化算法，其特征在于，包括以下步骤：获取特定任务的预训练模型，得到预训练模型的各项参数；对权重的输入激活值进行限制和映射，得到输入激活的位宽；对预训练模型的浮点数数据进行预处理，得到第一张量；基于输入激活的位宽对第一张量进行分组量化，得到分组量化数据；对分组量化数据进行绝对值累加，并计算原始数据的绝对值累加值与分组量化数据的绝对值累加值的误差；设置超参数空间，并基于网格搜索算法调整超参数组合，得到不同超参数组合；基于不同超参数组合和所述绝对值累加值的误差筛选分组量化数据，得到不同比特位权值分布的分组量化数据；基于不同比特位权值分布的分组量化数据对预训练模型进行训练，并使损失函数最小化，得到最优的比特位权值分布及其对应的分组量化数据。
全文数据：
权利要求：
百度查询： 广东工业大学 一种基于深度学习的AI加速器量化算法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号