买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：成都阿加犀智能科技有限公司

摘要：本申请公开了一种深度学习推理方法、装置、设备及介质，涉及人工智能技术领域，用于解决现有推理框架在进行AI开发时复杂度、碎片化、成本较高的问题。所述方法应用于Android+Linux融合系统，包括：在Android系统中对多个预设AI推理框架进行封装整合，获得Aidlite‑SDK推理框架；在所述Aidlite‑SDK推理框架与Linux系统之间搭建socket通信通道；根据所述socket通信通道，采用所述Linux系统向所述Aidlite‑SDK推理框架发送远程过程调用RPC请求；其中，所述远程过程调用RPC请求中包含AI推理数据；响应所述远程过程调用RPC请求，采用所述Aidlite‑SDK推理框架进行AI推理，并向所述Linux系统反馈相应的AI推理结果，以降低推理框架的碎片化、复杂性以及投入成本。

主权项：1.一种深度学习推理方法，其特征在于，应用于Android+Linux融合系统，所述方法包括：在Android系统中对多个预设AI推理框架进行封装整合，获得Aidlite-SDK推理框架；在所述Aidlite-SDK推理框架与Linux系统之间搭建socket通信通道；根据所述socket通信通道，采用所述Linux系统向所述Aidlite-SDK推理框架发送远程过程调用RPC请求；其中，所述远程过程调用RPC请求中包含AI推理数据；响应所述远程过程调用RPC请求，采用所述Aidlite-SDK推理框架进行AI推理，并向所述Linux系统反馈相应的AI推理结果；在所述Aidlite-SDK推理框架与Linux系统之间搭建socket通信通道之前，所述方法还包括：读取Aidlite客户端发送的模型信息；其中，所述模型信息包括协议定好的模型Modle相关的属性、模型配置相关的属性、模型初始化、加载类型、设置模型数据、推理模型、获取模型数据以及释放模型；在Linux系统中对所述模型信息进行解析，获得解析后的模型信息；根据所述解析后的模型信息，通过C++语言或Python语言在Linux系统中设计出与所述Android系统进行通信的socket通信框架；对所述socket通信框架进行封装，获得封装后的socket通信框架；所述根据所述socket通信通道，采用所述Linux系统向所述Aidlite-SDK推理框架发送远程过程调用RPC请求的步骤，包括：根据所述封装后的socket通信框架，采用所述Linux系统向所述Aidlite-SDK推理框架发送远程过程调用RPC请求。

全文数据：

权利要求：

百度查询： 成都阿加犀智能科技有限公司 一种深度学习推理方法、装置、设备及介质