龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：四川才子软件信息网络有限公司
摘要：本发明涉及数据抓取技术领域，具体为一种在海量数据同步过程中批量抓取目标数据的方法，包括以下步骤：对数据源进行属性识别，分析数据更新频率、数据体积和数据类型异质性，对数据源进行归类，并计算特征向量，生成数据源特性评估结果。本发明中，通过识别数据源的关键属性并分析属性对数据同步的影响，更精确地预测和处理数据更新中的冲突，在数据同步和批量抓取过程中，动态调整任务调度和抓取策略，确保数据的准确性和及时更新，有效减少资源消耗，提高数据处理的速度，通过模拟数据同步过程识别潜在冲突，有效规避风险，对于维护数据一致性和稳定性具有显著意义，进一步确保数据抓取的高效率和质量。
主权项：1.一种在海量数据同步过程中批量抓取目标数据的方法，其特征在于，包括以下步骤：对数据源进行属性识别，分析数据更新频率、数据体积和数据类型异质性，对数据源进行归类，并计算特征向量，生成数据源特性评估结果；基于所述数据源特性评估结果，分析海量数据同步过程中的批量数据抓取路径，对数据抓取的路径按照优先级进行排序，生成数据抓取策略；通过所述数据抓取策略，设置任务调度器的运行参数，对数据抓取任务进行动态监控，并根据数据变化动态调整抓取任务，生成任务调度记录；利用所述任务调度记录，模拟海量数据同步过程中的数据更新过程，识别批量抓取目标数据的冲突点，规避潜在的风险，构建数据冲突模型；根据所述数据冲突模型，进行冲突点的数据回滚，为冲突点制定解决策略，并实施策略规避数据冲突，生成冲突解决方案；基于所述冲突解决方案，对抓取的批量目标数据进行整合，通过数据同步验证数据的一致性，统一格式并推送至数据接收方，得到数据汇总推送结果。
全文数据：
权利要求：
百度查询： 四川才子软件信息网络有限公司 一种在海量数据同步过程中批量抓取目标数据的方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号