买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京壁仞科技开发有限公司;上海壁仞科技股份有限公司
摘要:本发明的实施例涉及一种用于生成输入掩码张量的方法、计算设备、存储介质和计算机程序产品。该方法在设备端处执行,并且包括:至少基于输入张量,确定输入掩码张量的张量维度和用于填充输入掩码张量的数据;以及由设备端中的至少一个计算单元,基于输入掩码张量的张量维度和用于填充输入掩码张量的数据,生成输入掩码张量,其中,所生成的输入掩码张量中的数据为比特型数据。本发明的实施例能够在设备端处直接生成用于masked_fill函数的输入掩码张量,省略了主机端与设备端之间关于输入掩码张量的传输过程,节省时间。
主权项:1.一种用于生成输入掩码张量的方法,其特征在于,包括:至少基于输入张量,确定输入掩码张量的张量维度和用于填充输入掩码张量的数据;以及由设备端中的至少一个计算单元,基于所述输入掩码张量的张量维度和所述用于填充输入掩码张量的数据,生成所述输入掩码张量,其中,所述输入掩码张量中的数据为比特型数据,其中,所述方法在设备端处执行,其中,所述至少一个计算单元中的每个计算单元包括多个线程,并且其中,所述生成所述输入掩码张量包括:将所述每个计算单元包括的多个线程与所述输入掩码张量中的数据进行配对,以便于并行地生成所述输入掩码张量。
全文数据:
权利要求:
百度查询: 北京壁仞科技开发有限公司 上海壁仞科技股份有限公司 用于生成输入掩码张量的方法、计算设备和介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。