首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于Kafka的数据处理方法、装置、计算机设备和存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中电金信软件有限公司

摘要:本申请涉及一种基于Kafka的数据处理方法、装置、计算机设备和存储介质。所述方法包括:基于第一命令行,确定数据处理规则对应的目标输入数据表,并确定与目标输入数据表具有绑定关系的目标输入消息主题;从目标输入消息主题中获取目标输入数据表;基于第二命令行,从目标输入数据表中读取输入数据;通过数据处理规则得到输出数据;在不存在输出数据对应的输出数据表及输出消息主题的情况下,新建输出数据表及与输出数据表绑定的输出消息主题,将输出数据存入输出消息主题中;或者,在存在输出数据表及输出消息主题的情况下,对输出消息主题中的输出数据表进行更新。采用本方法能够解决实时数据处理中的数据依赖问题,并提高数据处理规则的发布效率。

主权项:1.一种基于Kafka的数据处理方法,其特征在于,应用于数据处理引擎Flink,所述方法包括:基于数据处理规则中的第一命令行,确定所述数据处理规则对应的目标输入数据表,并确定与所述目标输入数据表具有绑定关系的目标输入消息主题;所述数据处理规则为程序脚本;所述第一命令行由第一指示符,及与所述第一指示符位于同一命令行,且排列在所述第一指示符之后的第一数据组成,所述第一数据用于指示所述目标输入数据表;从Kafka的所述目标输入消息主题中获取所述目标输入数据表;基于所述数据处理规则中的第二命令行,从所述目标输入数据表中读取输入数据;所述第二命令行由第二指示符,及与所述第二指示符位于同一命令行,且排列在所述第二指示符之后的第二数据组成,所述第二数据用于指示所述输入数据;通过所述数据处理规则对所述输入数据进行处理,得到输出数据;在不存在所述输出数据对应的输出数据表及输出消息主题的情况下,新建所述输出数据表,并指示Kafka创建与所述输出数据表绑定的所述输出消息主题,将所述输出数据存入所述输出数据表中,并将所述输出数据表存入所述输出消息主题中;或者,在存在所述输出数据对应的所述输出数据表及所述输出消息主题的情况下,基于所述输出数据,对所述输出消息主题中的所述输出数据表进行更新。

全文数据:

权利要求:

百度查询: 中电金信软件有限公司 基于Kafka的数据处理方法、装置、计算机设备和存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。