龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：东南大学
摘要：本发明公开一种面向视觉Transformer的硬件友好的权重压缩编码方法，属于计算、推算或计数的技术领域。通过对权重数据进行自适应精度编码以降低权重参数所占用的存储空间。该方法包括：权重数据的逐类型编码、自适应精度选择和编码评估机制。首先将不同类型网络层的权重数据进行初始化编码，然后利用贝叶斯信息准则找到最优的权重编码精度，最后进行迭代编码并根据编码评估机制所得分数保留最佳编码结果。本发明可以在保持视觉Transformer的精度的同时有效压缩权重存储开销，且解码单元硬件友好，适用于边缘设备部署。
主权项：1.一种面向视觉Transformer的硬件友好的权重压缩编码方法，其特征在于，包括如下步骤：步骤101，按照不同的线性层类型对视觉Transformer模型中的权重数据进行分类，获取对应不同线性层类型的待编码数据；步骤102，对每类待编码数据进行初始化编码；步骤103，对每类初始化编码结果进行评估，自适应选择每类待编码数据的最优权重编码精度；步骤104，根据选择的最优权重编码精度对每类待编码数据进行K均值聚类运算，获取每类待编码数据的最佳精度编码；步骤105，对每类待编码数据的最佳精度编码进行评估，在当前最佳精度编码评估分数大于以往迭代评估分数时，则将当前最佳精度编码作为最佳精度编码的最优结果，在当前最佳精度编码评估分数小于或等于以往迭代评估分数时，返回步骤104，直到达到预设的迭代次数，保存每类待编码数据的最佳编码结果。
全文数据：
权利要求：
百度查询： 东南大学 一种面向视觉Transformer的硬件友好的权重压缩编码方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号