龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：深圳明琪紫芯科技有限公司
摘要：本发明提供一种量化感知训练终端芯片模型系统，在监督学习模型的转化公式中引入参数S，由此在整体模型的训练时应用符号变换激活函数让参数S进行符号学习，并应用缩放变换激活函数让参数S进行缩放训练，由此通过训练促使参数S达到合适数值。该参数S的引入，有效地替代了现有技术中原有的必需的归一化处理方式，从而大大减少了硬件使用，有效地降低了成本，而且能极大地提高模型卷积精度。在深层网络模型做FP8量化时，在芯片端部署，卷积精度能从40％左右提升到80.2％。
主权项：1.一种量化感知训练终端芯片模型系统，在该系统中建立监督学习模型并设定初始监督学习模型的训练集为初始向量数据X，与初始向量数X对应的输出为转换向量数据Y，监督学习模型的卷积公式表达为Y＝W*X+B，其中，W和B为监督学习过程中所设定需要学习的参数，其特征在于，监督学习模型的芯片端部署参数S，变换向量数据Y1＝S*Y，监督学习模型中设置符号变换激活函数和缩放变换激活函数，在转换向量数据Y输入符号变换激活函数之后输出为第一输出数据Y’，当转换向量数据Y为正数时Y’呈现第一状态，当转换向量数据Y为负数时Y’呈现第二状态，第一状态异于第二状态，将变换向量数据Y1替代转换向量数据Y输入符号变换激活函数，通过观察输入变换向量数据Y1后从符号变换激活函数输出的第一输出数据Y’的状态，基于第一状态与第二状态的相异，调整参数S的正负号，在转换向量数据Y输入缩放变换激活函数之后输出第二输出数据Y”，第二激活函数具有非线性区间，一旦转换向量数据Y处于非线性区间之外，则第二输出数据Y”将处于恒定值，将变换向量数据Y1替代转换向量数据Y输入第二激活函数，通过观察输入变换向量数据Y1后从第二激活函数输出的第二输出数据Y”的数值增长趋势，调整参数S的绝对值确保变换向量数据Y1始终处于非线性区间之内。
全文数据：
权利要求：
百度查询： 深圳明琪紫芯科技有限公司 量化感知训练终端芯片模型系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号