Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于多节点并行的数据迁移、升级方法专利

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国石油集团东方地球物理勘探有限责任公司;中国石油天然气集团有限公司;中油油气勘探软件国家工程研究中心有限公司

申请日:2024-12-25

公开(公告)日:2025-02-07

公开(公告)号:CN119396558A

专利技术分类:...程序启动;程序切换,例如通过中断[2006.01]

专利摘要:本发明公开了一种基于多节点并行的数据迁移、升级方法,包括步骤S1.数据采集;S2.生成任务表;S3.节点调度;S4.任务调度;S5.数据存储任务执行;本发明通过分离多学科数据类型之间的耦合关系,采用多节点并行执行数据升级迁移作业,实现了新、老GeoEast系统勘探数据的快速升级、迁移,提升了大型地震勘探系统数据的安全性和健状性。本发明能够快速的进行异构数据的迁移和升级,提升了大型地震勘探系统数据的安全性和健状性;本发明适用于地震勘探行业,用于对新、老GeoEast系统勘探数据进行快速升级、迁移。

专利权项:1.一种基于多节点并行的数据迁移、升级方法,其特征在于,该方法包括以下步骤:S1.数据采集;用于对低版本数据库和文件存储系统现有数据进行重新组织和分割;该步骤包括以下内容,S11.连接低版本数据环境;创建数据库访问连接,配置ORACLE数据库地址、端口号,创建勘探数据库的数据配置信息和数据存储路径;S12.创建数据采集最小单元;以项目数据存储结构为最小数据采集单元,定义项目、工区、测线三级数据存储管理节点,相应的,数据类型节点中的地震、井、层位、断层、日志、属性及速度分别挂载在工区、测线数据存储管理节点下,对应的数据实体挂载到数据类型节点下;S13.获取数据存储的信息;根据步骤S11的数据配置信息以及创建的数据库访问连接,连通数据库,获取数据权限认证;按顺序遍历步骤S12中的数据存储管理节点,根据当前数据库所有项目的名称和数据存储特征,获取存储模式SCHEMA的最小模型单位的数据模型特征,并依次获取当前SCHEMA下的表名、列名、索引、触发器、外键、主键,组成项目数据迁移任务的最小单元集合体;S2.生成任务表;根据步骤S13中得到的最小单元集合体,开始分割任务,生成任务树,制定任务的执行列表;该步骤包括以下内容,S21.任务路径生成;按顺序遍历步骤S13的项目数据迁移任务的最小单元集合体,获取数据模型特征,基于数据模型特征指定当前SCHEMA的版本号;根据当前SCHEMA的版本号和升级目标的版本号,确定起始、终止路径以及路径范围内的升级程序,对生成的SCHEMA里的任务进行树形封装,确定升级路径和升级执行码的顺序;S22.任务分割;基于步骤S21确定的任务路径,依次对当前任务路径中所设计的任务内容按照步骤S12中的项目数据存储结构进行分割;S3.节点调度;该步骤包括以下内容:S31.定义集群的hostname表,添加节点配置信息,指定主控制节点和数据迁移任务执行节点;S32.主控制节点根据步骤S31中的节点配置信息,定时获取集群节点的负载信息、网络实时带宽、节点读写速率,并基于各数据迁移任务执行节点的负载情况,向主控制节点发送任务执行请求;S33.主控制节点根据步骤S22分割的任务列表,推送出执行任务;处于空闲状态的多个执行节点获取任务后,对数据库进行一次任务迁移校验和同步验证,当数据校验合格时,代表数据迁移的基准线是一致的,此时开始执行分派升级任务;S4.任务调度;该步骤具体包括以下内容:S41.数据抽取任务分发;主控制节点根据步骤S22分割的任务列表,获取任务中的抽取任务,按照数据库-项目-工区-测线-数据实体类型的顺序开始分发数据抽取任务到执行节点;S42.数据转换任务分发;在步骤S41数据抽取任务执行完成后,将任务执行状态推送给数据转换任务,数据转换节点开始执行表转换;同时,在高版本的数据库服务器上,创建同名项目,拼写高版本数据库INSERTSQL脚本,将步骤S41中数据库表抽取过滤的成果值,绑定到INSERT脚本中,写入高版本数据库;S43.数据校验任务执行;该任务由各执行任务节点在对步骤S42执行完成后自动执行;在步骤S41的库表数据转换完成后,开始对文件、非结构数据进行转换,转换过程中各执行节点持续向主控制节点发送数据校验包,依照步骤S33的校验逻辑开始对数据转换执行节点进行调度;S5.数据存储任务执行;该步骤包括以下内容,S51.步骤S43完成后,对项目整体的数据进行补齐,并对大块数据进行合并;S52.配置参数合并;将数据库、文件数据、配置参数写入到目标系统的配置信息中,完成数据的迁移和升级。

百度查询: 中国石油集团东方地球物理勘探有限责任公司 中国石油天然气集团有限公司 中油油气勘探软件国家工程研究中心有限公司 一种基于多节点并行的数据迁移、升级方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。