买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:迪思杰(北京)数据管理技术有限公司
摘要:本申请提出了一种基于数据库复制软件开发的通用数据装置方法,该方法包括:通过数据读取模块将需要加载的数据读入内存,其中,读入过程中将不同种类读入到内存的数据格式统一变成内部通用数据表达格式;通过数据转换模块对读入内存后的数据进行解析,对解析后的数据根据配置的转换规则和目标端数据库类型做数据转换;通过数据组装发送模块将转换后的数据组装成同样的流格式数据,发送给数据加载模块;通过数据加载模块对流格式数据做快速解析并转换为目标端当前环境接口需要的格式,调用该环境接口得到目标数据加载任务。本申请能够解决源端复制软件输出的数据怎么更快更好的装置到目标端不同种类数据库或者输出到大数据平台环境的问题。
主权项:1.一种基于数据库复制软件开发的通用数据装置方法,其特征在于,包括:通过数据读取模块将需要加载的数据读入内存,其中,读入过程中将不同种类读入到内存的数据格式统一变成内部通用数据表达格式,内存中的数据按照行列模式储存,通过行号能够快速取到对应每行数据;通过数据转换模块对读入内存后的数据进行解析,对解析后的数据根据配置的转换规则和目标端数据库类型做数据转换;通过数据组装发送模块将转换后的数据组装成同样的流格式数据,发送给数据加载模块;通过所述数据加载模块对所述流格式数据做快速解析并转换为目标端当前环境接口需要的格式,调用该环境接口得到目标数据加载任务;所述通过数据转换模块对读入内存后的数据进行解析,包括:解析读入内存后的数据的每个字段数据值,根据所述字段数据值得到每个数据表的字典信息,所述字典信息记录有每个数据表的储存结构、列数、每一列数据类型、数据长度信息,没有字典信息只有数据无法得到每个字段数据含义;所述对解析后的数据根据配置的转换规则和目标端数据库类型做数据转换,包括:读取在解析后以二叉树的形式在内存中存储的转换规则,根据所述转换规则与目标端数据库类型对需要转换的字段进行类型转换,其中,类型转换过程包括字段截断、字段填充其他值、或者数值运算;将转换完成的数据填充到新的内存中;所述数据组装发送模块为数据库加载客户端接口,上层调用该数据库加载客户端接口能够间接完成对不同类型数据库操作,所述方法还包括:通过定义数据库种类,在所述数据库加载客户端接口内为不同种类数据库分配唯一标识符;通过调用所述数据库加载客户端接口连接代理数据库加载服务,为后续的数据加载和数据查询提供基础;执行外部提交给所述数据组装发送模块的数据库SQL,以及给数据库发送执行查询SQL;根据不同目标端数据库选择最佳的数据加载模式,其中,所述数据加载模式为客户端sql语句方式加载数据,或绑定方式加载,或copy或者load方式加载。
全文数据:
权利要求:
百度查询: 迪思杰(北京)数据管理技术有限公司 一种基于数据库复制软件开发的通用数据装置方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。