Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 积分商城 国际服务 IP管家助手 科技果 科技人才 商标交易 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 上海西井信息科技有限公司谭黎敏获国家专利权

上海西井信息科技有限公司谭黎敏获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉上海西井信息科技有限公司申请的专利模型量化方法、装置、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114936619B

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210706952.X,技术领域涉及:G06N3/0455;该发明授权模型量化方法、装置、设备及存储介质是由谭黎敏;赵钊;魏中平设计研发完成,并于2022-06-21向国家知识产权局提交的专利申请。

模型量化方法、装置、设备及存储介质在说明书摘要公布了:本发明提供了一种模型量化方法、装置、设备及存储介质,该方法包括:使用整数算法执行用于图像处理的transformer模型的多个算子,所述transformer模型的多个算子包括线性算子和非线性算子,其中,所述线性算子包括矩阵乘法算子,所述矩阵乘法算子采用对称量化将浮点值量化为整数值;所述非线性算子包括激活函数算子以及层归一化算子,所述激活函数算子采用多项式拟合将浮点值量化为整数值,所述层归一化算子采用输入数据在通道维度上的均值和标准差来将浮点值量化为整数值。本发明对transformer算子进行量化,使得用于进行自然语言的transformer模型的推理工作基于整形运算,使其真正能够落地部署到FPAG芯片上进行实际应用。

本发明授权模型量化方法、装置、设备及存储介质在权利要求书中公布了:1.一种模型量化方法,其特征在于,包括: 使用整数算法执行用于图像处理的transformer模型的多个算子,所述transformer模型的多个算子包括线性算子和非线性算子, 其中,所述线性算子包括矩阵乘法算子,所述矩阵乘法算子采用对称量化将浮点值量化为整数值; 所述非线性算子包括激活函数算子以及层归一化算子,所述激活函数算子采用多项式拟合将浮点值量化为整数值,所述层归一化算子采用输入数据在通道维度上的均值和标准差来将浮点值量化为整数值,所述激活函数算子包括高斯误差线性算子,所述高斯误差线性算子按如下多项式拟合公式将浮点值量化为整数值: 其中,i-GELUx为量化后的整数值,x为量化前的浮点值,Lx=sgnx[aclip|x|,max=-b+b+1],其中,sgn为符号函数,a和b为拟合所述高斯误差线性算子的激活函数的曲线获得的二阶多项式参数,a为-0.2至-0.3,b为-1.7至-1.8,所述层归一化算子根据如下公式将浮点值量化为整数值: 其中,为量化后的整数值,x为量化前的整数值,μ和σ是x在通道维度上的均值和标准差。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海西井信息科技有限公司,其通讯地址为:200050 上海市长宁区江苏路398号503-3室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。