买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中昊芯英(杭州)科技有限公司申请的专利面向大语言模型训练的集群监控方法以及相关装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119271505B 。

龙图腾网通过国家知识产权局官网在2025-09-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411828164.3，技术领域涉及：G06F11/30；该发明授权面向大语言模型训练的集群监控方法以及相关装置是由杨龚轶凡;朱国梁;陆涵枭;李阳;赵丰设计研发完成，并于2024-12-12向国家知识产权局提交的专利申请。

本面向大语言模型训练的集群监控方法以及相关装置在说明书摘要公布了：本申请涉及数据处理领域，尤其是一种面向大语言模型训练的集群监控方法以及相关装置。该方法包括：获取目标对象的原始运行数据；目标对象为专用集成电路TPU集群中的一个或多个TPU节点；TPU节点用于加速大语言模型的训练任务和推理任务；将原始运行数据转换为目标对象的待处理硬件信息；待处理硬件信息的转换方式基于TPU集群中待监测的多个指标维度配置得到；根据待处理硬件信息生成实时展示信息，并实时更新到监控面板中进行展示；实时展示信息至少包括：TPU集群对应的硬件监控信息以及计算状态信息。该方法能够实现TPU集群的实时监控，提升集群监控效率，以及集群监控系统的拓展性和灵活性。

本发明授权面向大语言模型训练的集群监控方法以及相关装置在权利要求书中公布了：1.一种面向大语言模型训练的集群监控方法，其特征在于，所述方法包括： 获取目标对象的原始运行数据；所述目标对象为专用集成电路TPU集群中的一个或多个TPU节点；所述TPU节点用于加速大语言模型的训练任务和推理任务；TPU是为加速机器学习任务而设计的定制硬件芯片，用于加速处理大规模数据，以减少数据在芯片内部的传输延迟；TPU集群中各个TPU节点部署有对应的寄存器，各个TPU节点的寄存器用于存储对应节点的原始运行数据；通过预先配置的硬件数据接口，从目标对象对应的寄存器中读取目标对象的原始运行数据；所述硬件数据接口至少包括：i2c和或PCIE； 获取所述大语言模型所处的应用场景；基于所处应用场景中的实时环境数据和场景属性，对所述大语言模型进行运行情况预测，得到所述大语言模型所处的实时运行状态预测值；按照所述实时运行状态预测值进行自适应配置，得到TPU集群匹配的多个指标维度；实时环境数据至少包括温度、湿度、网络延迟，场景属性至少包括任务优先级、数据敏感性；将所述原始运行数据转换为目标对象的待处理硬件信息；所述待处理硬件信息的转换方式基于TPU集群中待监测的多个指标维度配置得到；多个指标维度至少包括以下之一：TPU集群中目标对象的温度、实时功耗、内存使用情况； 将所述待处理硬件信息转换为多维数据模型中对应的多维硬件信息序列，并存储到多维标签对应的存储空间中；其中，所述多维硬件信息序列与多个指标维度标签相关联； 实时检测所述多维硬件信息序列中是否包含满足告警条件的目标硬件信息；所述多维硬件信息序列的检测指标由不同类型硬件信息的告警阈值和或告警条件构成；若所述多维硬件信息序列中包含满足告警条件的目标硬件信息，则基于所述目标硬件信息生成目标对象的告警信息；将所述告警信息实时展示到监控面板中，以提示用户及时处理TPU集群中存在的运行风险； 根据所述待处理硬件信息生成实时展示信息，并实时更新到监控面板中进行展示；所述实时展示信息至少包括：TPU集群对应的硬件监控信息以及计算状态信息； 所述实时检测所述多维硬件信息序列中是否包含满足告警条件的目标硬件信息之前，配置不同类型硬件信息的告警阈值和或告警条件的步骤，还包括：在预先设置的配置文件中设置用于采集原始运行数据的监控目标；在配置管理文件中定义告警规则；所述告警规则至少包括：不同类型硬件信息的告警阈值和或告警条件，不同类型硬件信息的告警阈值和或告警条件至少包括以下之一：内存占用超过预设内存容量上限、温度低于预设温度下限、温度高于预设温度上限、节点负载大于预设负载值；在所述配置文件中应用所述配置管理文件，并采用所述配置文件加载所述告警规则。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中昊芯英(杭州)科技有限公司，其通讯地址为：310052 浙江省杭州市滨江区长河街道聚才路239号6幢19层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。