Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种面向Triton编译器流水线的优化系统及优化方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:之江实验室

摘要:本发明公开一种面向Triton编译器流水线的优化系统及优化方法,系统包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器。本发明通过自定义优化过程构造器为用户提供的用于编写转换过程涉及的方言的操作组合的性能优化策略的接口和模板,使得用户能够有针对性地设计优化策略,提升代码运算性能;优化过程管理器允许针对不同GPU架构添加特定的优化pass过程,使得优化系统具有更好的GPU适应性;优化过程测试器确保优化过程的正确执行,性能评估器提供量化评估,使得优化效果可验证。本发明的优化系统能够对方言、转换过程、优化过程进行精细控制,提供了优化系统的管理灵活性和可扩展性。

主权项:1.一种面向Triton编译器流水线的优化系统,其特征在于,包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器;所述方言管理器用于将Triton语言逐级递降到低级虚拟机中间表示的过程中涉及的相关方言注册到优化系统中,并管理所述方言涉及的算法的相关信息,所述相关信息包括操作、属性、特性、约束;所述转换过程管理器用于将Triton语言逐级递降到低级虚拟机中间表示的过程中涉及的转换过程注册到优化系统中,并管理每个转换过程涉及的方言包含的操作组合;所述自定义优化过程构造器为用户提供接口和模板,用于编写所述转换过程涉及的方言的操作组合的性能优化策略;所述优化策略包括模式匹配、循环变换、数据流分析;所述优化过程管理器,用于在不同的方言转换过程之间插入用户选择的优化过程到编译流水线中;所述流水线构造器,用于集成所述转换过程管理器注册的转换过程和用户选择的优化过程,生成运行于异构后端GPU架构的目标代码;所述优化过程测试器,用于对所述流水线构造器构建的目标代码进行测试,确保构建的流水线的语义的正确性;所述性能评估器,用于评估所述流水线构造器得到的目标代码的运算性能,提供给用户,帮助用户调整用户选择的优化过程;所述自定义优化过程构造器包括方言选择模块、方言优化分析模块和优化过程生成模块;所述方言选择模块根据目标GPU架构的特性,包括其内存层次结构、执行单元和指令集,分析从高级多层中间表示涉及的方言到低级GPU涉及的方言的递降路径,依据语义等价的方言包括的操作组合的运算性能的高低,输出推荐的递降路径;所述方言优化分析模块用于对用户选择的递降路径所涉及的多种方言组成的中间表示进行进一步分析,解析出中间表示中的操作类型、数据流和控制流,以及所述操作类型、数据流和控制流映射到目标GPU架构的方式,识别出可能的优化语句;所述优化过程生成模块用于根据优化策略和对应的算法生成相应的优化过程。

全文数据:

权利要求:

百度查询: 之江实验室 一种面向Triton编译器流水线的优化系统及优化方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。