龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：浪潮电子信息产业股份有限公司
摘要：本发明公开了一种图形处理单元显存处理方法、服务器、产品、设备及介质，涉及图形处理单元技术领域。在图形处理单元的显存不满足所需的内存请求的情况下，将位于图形处理单元显存内的访问频次小于预设次数的物理页面迁移至主机内存，提高了图形处理单元的可用性和利用率。通过记录物理页面的访问频次，能够准确地确定出各物理页面的访问情况，进而准确地将位于图形处理单元显存内的第一物理页面移动到主机的内存中；主机和图形处理单元之间通过计算快速链路协议以及基于访问频次的情况进行物理页面的移动，实现了图形处理单元的显存与主机内存的上层无感知的内存调度交换，提高了图形处理单元显存处理的通用性，适用于不同的AI模型的处理需求。
主权项：1.一种图形处理单元显存处理方法，其特征在于，应用于图形处理单元，所述图形处理单元与主机连接，所述图形处理单元和所述主机中均包含计算快速链路接口，所述图形处理单元中包含分别与设备端一致性引擎、设备端内存管理单元和设备端页表缓存器连接的记录器；所述方法包括：获取用于处理人工智能模型时所需的内存请求；在检测到所述图形处理单元的显存容量不满足预设要求的情况下，获取所述记录器记录的各物理页面的访问频次；其中，物理页面包含设备端一致性引擎中记录的所述图形处理单元访问所述主机的内存页面、设备端内存管理单元记录的设备端物理内存页面和设备端页表缓存器记录的查找的物理页面；根据所述记录器记录的各物理页面的访问频次确定所述图形处理单元的显存内的第一物理页面；其中，第一物理页面为访问频次小于预设次数的物理页面；将位于所述图形处理单元的显存内的第一物理页面通过计算快速链路协议移动至所述主机的内存，以完成对内存请求的响应；所述图形处理单元中还包括计算快速链路命令寄存器；所述计算快速链路命令寄存器在接收到所述主机发送的用于表征记录物理页面访问频次的命令的情况下，向所述记录器发送用于表征记录物理页面访问频次的命令，以便于所述记录器记录物理页面的访问频次。
全文数据：
权利要求：
百度查询： 浪潮电子信息产业股份有限公司 图形处理单元显存处理方法、服务器、产品、设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号