龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：谷歌有限责任公司
摘要：方法、系统和设备，包括被编码在计算机存储介质上的计算机程序，用于对网络输入执行机器学习任务以生成网络输出。系统中的一个包括被配置为执行机器学习任务的注意力神经网络，该注意力神经网络包括多个注意力层，每个注意力层包括与前馈子层并行排列的注意力子层。
主权项：1.一种用于对网络输入执行机器学习任务以生成网络输出的系统，所述系统包括一个或多个计算机和一个或多个存储装置，所述一个或多个存储装置存储指令，所述指令在由所述一个或多个计算机执行时使所述一个或多个计算机实现：注意力神经网络，所述注意力神经网络被配置为执行所述机器学习任务，所述注意力神经网络包括多个注意力层，每个注意力层包括注意力子层和前馈子层，所述注意力层被配置为：接收所述层的输入序列，所述输入序列包括在多个输入位置中的每一个输入位置处的相应层输入；将所述输入序列提供给所述注意力子层和所述前馈子层，所述注意力子层被配置为至少部分地通过将注意力机制应用于所述层的所述输入序列来生成关注的输入序列，所述关注的输入序列包括针对所述层的输出序列中的多个输出位置中的每一个输出位置的相应关注的层输入，并且所述前馈子层被配置为通过使用包括在所述前馈子层中的一个或多个前馈神经网络层处理所述层的所述输入序列来生成经变换的输入序列，所述经变换的输入序列包括针对所述层的所述输出序列中的所述多个输出位置中的每一个输出位置的相应经变换的层输入；以及通过确定所述关注的输入序列与所述经变换的输入序列的组合来生成所述层的所述输出序列。
全文数据：
权利要求：
百度查询： 谷歌有限责任公司 具有并行注意力层和前馈层的注意力神经网络
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号