龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：湖南长城银河科技有限公司
摘要：本发明涉及神经网络处理单元的接口调用装置、方法、设备和介质，通过标准化函数调用接口和封装驱动细节，用户只需使用简单的API即可操作NPU，无需了解其底层复杂的驱动和硬件细节，大大降低了开发难度。封装后的API使用标准编程语言，使得用户无需理解自定义结构体和数据类型，接口设计直观，易于使用，方便用户快速部署和评估性能。提供了从设备初始化、网络加载、前处理数据、推理执行到资源释放的完整应用处理流程，确保了系统在各个阶段都能高效和有序地运行。封装的API包括初始化和销毁网络上下文的功能，确保资源在分配和释放时得到有效管理，避免资源泄漏和内存不足的问题，高效调用NPU并提高了系统的可靠性。
主权项：1.一种神经网络处理单元的接口调用装置，其特征在于，包括网络文件上下文列表、打开设备应用程序接口、关闭设备应用程序接口、初始化网络应用程序接口、销毁网络应用程序接口和网络推理应用程序接口；所述网络文件上下文列表用于封装调用神经网络处理单元所需的配置信息和参数，所述配置信息和参数包括神经网络处理单元配置参数、内存分配信息、模型参数以及输入输出数据缓冲区地址；所述打开设备应用程序接口封装了与神经网络处理单元设备底层驱动的交互逻辑，用于触发神经网络处理单元设备的底层驱动程序进行初始化驱动，确保神经网络处理单元处于可用状态；所述初始化网络应用程序接口用于根据用户输入的网络推理数据结构创建网络对象，分配计算资源并初始化网络上下文；所述网络推理应用程序接口用于将网络推理数据结构所需的所有输入数据拷贝至神经网络处理单元设备规划的内存空间，将网络的所有输入缓冲区和输出缓冲区分别连接到神经网络处理单元的有效的缓冲区，刷新输入数据缓存后通知神经网络处理单元运行网络并等待推理操作完成后，刷新输出数据缓存并将推理结果数据拷贝至用户规划的内存空间；所述网络推理应用程序接口支持多次调用；所述销毁网络应用程序接口用于根据所述网络文件上下文列表销毁网络对象并释放分配的计算资源；所述关闭设备应用程序接口用于释放神经网络处理单元所占用的所有资源并控制神经网络处理单元断电。
全文数据：
权利要求：
百度查询： 湖南长城银河科技有限公司 神经网络处理单元的接口调用装置、方法、设备和介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号