买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本申请实施例提供了一种数据入湖方法、电子设备及介质,属于数据管理领域。该方法应用于数据管理系统,包括:数据管理系统中的入湖执行组件接收数据管理系统中的入湖任务调度组件每间隔预设时间段发送的数据入湖指令,数据入湖指令用于指示入湖执行组件执行第N次入湖操作;入湖执行组件响应于数据入湖指令,获取与第N次入湖操作对应的起始位置参数和结束位置参数;入湖执行组件根据与第N次入湖操作对应的起始位置参数和结束位置参数,从消息中间件获取目标增量数据;入湖执行组件将目标增量数据通过数据管理系统中的数据湖管理组件导入数据管理系统中的数据湖。如此,提升了数据管理系统设备集群的资源利用率。
主权项:1.一种数据入湖方法,其特征在于,应用于数据管理系统,所述方法包括:所述数据管理系统中的入湖执行组件接收所述数据管理系统中的入湖任务调度组件每间隔预设时间段发送的数据入湖指令,所述数据入湖指令用于指示所述入湖执行组件执行第N次入湖操作,所述N为正整数;所述入湖执行组件响应于所述数据入湖指令,获取与所述第N次入湖操作对应的起始位置参数和结束位置参数,所述起始位置参数和所述结束位置参数用于指示所述数据管理系统中的消息中间件中的不同数据位置,所述消息中间件用于从所述数据管理系统中的数据库获取增量数据;所述入湖执行组件根据与所述第N次入湖操作对应的起始位置参数和结束位置参数,从所述消息中间件获取目标增量数据;所述入湖执行组件将所述目标增量数据通过所述数据管理系统中的数据湖管理组件导入所述数据管理系统中的数据湖。
全文数据:
权利要求:
百度查询: 平安科技(深圳)有限公司 数据入湖方法、电子设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。