Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

注意力机制电路专利

发布时间:2022-09-15 15:46:28 来源:龙图腾网 导航: 龙图腾网> 最新专利技术> 注意力机制电路

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:深圳比特微电子科技有限公司

申请日:2022-04-24

公开(公告)日:2022-09-09

公开(公告)号:CN114528989B

专利技术分类:...采用电的[2023.01]

专利摘要:本发明实施方式提出一种注意力机制的激活函数加速方法、装置和注意力机制电路。方法包括:输入第一向量和包含多个第二向量的第一向量组;基于注意力机制,确定所述第一向量对所述第一向量组中的每个第二向量的注意力分数;对所述注意力分数施加激活函数,所述激活函数适配于将所述注意力分数中的负值转变为零且正值保持为正数;基于预定的缩放因子,对施加所述激活函数的注意力分数进行缩放;输出所述缩放后的注意力分数。本发明实施方式不再采用Softmax计算注意力机制的激活函数,规避了以自然底数e为底数的、注意力分数为指数的幂运算,提高了注意力机制的运算速度,尤其适用于以硬件方式实现注意力机制。

专利权项:1.一种注意力机制电路,其特征在于,包括:第一算术逻辑单元,用于基于注意力机制,确定第一向量对包含多个第二向量的第一向量组中的每个第二向量的注意力分数;激活函数电路,用于对所述注意力分数施加激活函数,所述激活函数适配于将所述注意力分数中的负值转变为零且正值保持为正数;缩放电路,用于基于预定的缩放因子,对施加所述激活函数的注意力分数进行缩放以得到缩放后的注意力系数,所述缩放包括:将施加所述激活函数的注意力分数除以所述缩放因子,以得到所述缩放后的注意力系数;所述缩放因子被设置为等于所述第一向量组中的第二向量的数目;第二算术逻辑单元,用于基于所述缩放后的注意力系数和所述第一向量组中的每个第二向量,确定第一向量对第一向量组的兴趣特征向量;其中所述兴趣特征向量为:缩放后的注意力系数与第二向量的乘积的求和结果。

百度查询: 深圳比特微电子科技有限公司 注意力机制电路

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。