龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：上海曲速超为技术有限公司
摘要：本发明公开了一种支持大模型推理过程中上下文信息安全保存和恢复的硬件系统，所述硬件系统包括：推理主机和存储系统；所述推理主机通过USB接口与所述存储系统进行通讯；所述推理主机中包括：内存、中央处理器、硬盘、GPUNPUTPU模块；所述存储系统中包括：ARMCortex‑M7芯片、DMAFIFO模块、SDMMC接口、USART接口、GPIO接口；所述存储系统通过SDMMC接口挂载Flash存储芯片，用于保存大模型推理过程中的K、V矩阵数据；所述存储系统和所述Flash存储芯片或所述推理主机和所述存储系统之间采用USB3.0和或SDIO3.0UHS‑2协议进行数据传输。本发明还公开了一种上下文信息保存和恢复方法及应用。
主权项：1.一种支持大模型推理过程中上下文信息安全保存和恢复的硬件系统，其特征在于，所述硬件系统包括：推理主机和存储系统；所述推理主机通过USB接口与所述存储系统进行通讯；所述推理主机中包括：内存、中央处理器、硬盘、GPUNPUTPU模块；所述存储系统中包括：ARMCortex-M7芯片、DMAFIFO模块、SDMMC接口、USART接口、GPIO接口；所述存储系统通过SDMMC接口挂载Flash存储芯片，用于保存大模型推理过程中的K、V矩阵数据；所述存储系统和所述Flash存储芯片或所述推理主机和所述存储系统之间采用USB3.0和或SDIO3.0UHS-2协议进行数据传输。
全文数据：
权利要求：
百度查询： 上海曲速超为技术有限公司 一种支持大模型推理过程上下文信息安全保存和恢复的硬件系统、方法及应用
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号