买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:一种算子融合方法、电子设备与存储介质。该算子融合方法包括:使用第一处理工具获取输入数据,其中,输入数据包括多个算子,多个算子包含至少一种算子类型,第一处理工具包括算子拆分功能,算子拆分功能用于将多个算子中的第一类型的算子进行拆分;关闭第一处理工具中的算子拆分功能;使用目标编译器获取经第一处理工具处理后的输入数据,其中,目标编译器中设置有第二处理工具;在目标编译器中调用第二处理工具将多个算子中的至少两个算子进行融合,得到第一融合算子,其中,至少两个算子具有相同的算子类型或不同的算子类型。该算子融合方法减少了融合后的算子数量,提高了计算任务的执行效率,提升了芯片的性能。
主权项:1.一种算子融合方法,其特征在于,所述算子融合方法包括:使用第一处理工具获取输入数据,其中,所述输入数据包括多个算子,所述多个算子包含至少一种算子类型,所述第一处理工具包括算子拆分功能,所述算子拆分功能用于将所述多个算子中的第一类型的算子进行拆分;关闭所述第一处理工具中的算子拆分功能;使用目标编译器获取经所述第一处理工具处理后的输入数据,其中,所述经过第一处理工具处理后的输入数据中仅包括多个未被拆分的算子,所述目标编译器中设置有第二处理工具;在所述目标编译器中调用所述第二处理工具将所述多个算子中的至少两个算子进行融合,得到第一融合算子,其中,所述至少两个算子具有相同的算子类型或不同的算子类型,其中,所述第二处理工具中设置有图匹配范式,所述在所述目标编译器中调用所述第二处理工具将所述多个算子中的至少两个算子进行融合,得到第一融合算子,包括:使用所述第二处理工具中的图匹配范式将待融合的所述至少两个算子进行图匹配映射,得到所述第一融合算子,其中,所述目标编译器中还设置有第三处理工具和第四处理工具,所述算子融合方法还包括:使用所述第三处理工具将所述多个算子中至少两个未被融合的第一类型的算子拆分为多个拆分算子;使用所述第四处理工具将所述多个拆分算子进行融合,得到第二融合算子。
全文数据:
权利要求:
百度查询: 北京壁仞科技开发有限公司 上海壁仞科技股份有限公司 算子融合方法、电子设备与存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。