买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:宁波安得智联科技有限公司;芜湖安得智联科技有限公司
摘要:本申请公开了一种数据分析方法、系统、设备以及存储介质,涉及数据处理技术领域,所述数据分析方法,包括:识别并接入若干个数据源;基于预设数据采集方式,利用数据采集工具对所述若干个数据源进行实时数据采集,得到数据采集结果;基于预设数据处理流程与预设数据处理模式,利用Flink组件对所述数据采集结果进行数据关联分析与处理,得到数据处理结果;基于所述数据处理结果与预设数据展示样式,通过可视化设备进行展示。本申请通过上述方案,不仅可以有效提高数据分析的数据监测范围、数据处理速度以及数据分析结果的可靠性,而且能够快速、准确地处理和展示大量数据,为企业的决策提供数据支撑。
主权项:1.一种数据分析方法,其特征在于,所述方法应用于数据分析系统,所述方法包括:识别并接入若干个数据源;基于预设数据采集方式,利用数据采集工具对所述若干个数据源进行实时数据采集,得到数据采集结果,其中,所述预设数据采集方式包括全量采集、增量采集和增量全量混合采集,所述数据采集工具是基于开源组件Canal构建得到的,且支持对多个数据源进行数据采集;基于预设数据处理流程与预设数据处理模式,利用Flink组件对所述数据采集结果进行数据关联分析与处理,得到数据处理结果;基于所述数据处理结果与预设数据展示样式,通过可视化设备进行展示;所述基于预设数据处理流程与预设数据处理模式,利用Flink组件对所述数据采集结果进行数据关联分析与处理,得到数据处理结果的步骤,包括:若所述预设数据处理模式为实时流处理,则根据预设数据处理流程,利用Flink组件对所述数据采集结果进行实时数据关联分析与处理,得到第一数据处理结果;若所述预设数据处理模式为批量处理,则根据预设数据处理流程,利用Flink组件对历史的数据采集结果进行离线数据关联分析与处理,得到第二数据处理结果;所述根据预设数据处理流程,利用Flink组件对所述数据采集结果进行实时数据关联分析与处理的步骤之前,还包括:基于预设数据质量管控机制,对所述数据采集结果进行质量检查,并对数据质量异常的数据进行过滤,得到第一数据采集结果;基于机器学习算法,学习第一数据采集结果中数据关联关系,并根据所述数据关联关系,对所述第一数据采集结果进行聚类与预测分析,得到第二数据采集结果;所述根据预设数据处理流程,利用Flink组件对所述数据采集结果进行实时数据关联分析与处理的步骤包括:根据预设数据处理流程,利用Flink组件确定所述第二数据采集结果中不同聚类数据之间的关联程度,并基于所述关联程度进行实时数据关联分析与处理;所述基于预设数据采集方式,利用数据采集工具对所述若干个数据源进行实时数据采集,得到数据采集结果的步骤之前,还包括:接收用户的功能配置参数;基于所述功能配置参数,解析得到预配置数据源、预设数据采集方式、预设数据处理流程、预设数据处理模式以及预设数据展示样式;基于所述预配置数据源,对接入的若干个数据源进行动态配置。
全文数据:
权利要求:
百度查询: 宁波安得智联科技有限公司 芜湖安得智联科技有限公司 数据分析方法、系统、设备以及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。