首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于并行遗传算法的GPU运算GEMM调优方法与装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:芯动微电子科技(武汉)有限公司

摘要:本发明提供一种基于并行遗传算法的GPU运算GEMM调优方法与装置,将GPU运算GEMM的速度作为遗传迭代的优化目标,将kernel中参数的工作组和工作项作为自变量,通过遗传算法迭代得到kernel中参数的工作组和工作项的最佳配置,在这一过程中,通过将每个个体和种群均设置对应的索引ID,每轮迭代中,GPU通过调用所述索引ID完成对每个个体和每个种群的调用和并行优化,一方面得到工作组和工作项的最佳配置从而对GPU运算GEMM的速度进行优化,另一方面加快了遗传算法迭代的寻优调优的速度。

主权项:1.一种基于并行遗传算法的GPU运算GEMM调优方法,其特征在于,包括:将kernel函数中参数的工作组和工作项进行编码,生成相应参数种群;所述工作组包括:X维度大小的第一自变量wg_x和y维度大小的第二自变量wg_y;所述工作项包括第三自变量task_x和第四自变量task_y;将所述第一自变量wg_x、第二自变量wg_y、第三自变量task_x和第四自变量task_y分别编码,并将所得到的全部编码信息进行串联,串联后的编码信息作为参数个体的编码信息;随机生成多个所述参数个体,多个所述参数个体的编码信息作为所述参数种群;将初始生成的参数种群作为初始种群,将所述初始种群作为输入种群输入至第一轮迭代中;每轮迭代中包括:将所述输入种群进行交叉和变异,生成子代种群;将所述子代种群在运算时长的维度上进行优化,得到优化种群;将所述优化种群中所有个体在运算时长的维度上进行排序,得到运算时长最短的个体作为优选个体;将所述优选个体进行记录,将以往每轮迭代中的优选个体在运算时长的维度上进行排序,得到运算时长最短的优选个体作为最优个体,判断本轮迭代是否满足终止条件;当本轮迭代不满足终止条件时,将所述优化种群作为输入种群输入至下一轮迭代中;当本轮迭代满足终止条件时,对所述最优个体进行解码得到最优解;其中,每个个体均设置有对应的索引ID,每轮迭代中,图形处理器GPU通过调用所述索引ID完成对每个个体和每个种群的调用和并行优化;所述图形处理器GPU获取所述子代种群的索引ID,根据所述子代种群的索引ID将所述子代种群进行备份得到备份子代种群;所述图形处理器GPU获取所述子代种群的索引ID,根据所述子代种群的索引ID从所述子代种群中随机抽取tourn_size×size_pop个个体作为样本种群;在所述样本种群中随机选取tourn_size个个体为一组,共选取size_pop组个体,从每组个体中选出运算时长最短的个体的索引ID,以得到size_pop个索引ID,根据size_pop个索引ID从所述备份优化种群中对应选出size_pop个竞争个体,并将选出的size_pop个竞争个体作为所述优化种群;其中,所述size_pop为所述子代种群中个体的数量,所述tourn_size为小于size_pop2的正整数。

全文数据:

权利要求:

百度查询: 芯动微电子科技(武汉)有限公司 基于并行遗传算法的GPU运算GEMM调优方法与装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。