买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国工商银行股份有限公司
摘要:本申请提供一种基于Pyspark框架的数据处理方法、装置及设备,涉及数据处理技术或其他相关技术,该方法应用于控制服务器,控制服务器位于分布式集群,分布式集群还包括至少一个执行服务器,分布式集群是基于Pyspark框架构建的,包括:将预处理数据按照预设划分规则进行数据划分,以获得控制服务器对应的第一划分数据以及各执行服务器对应的第二划分数据;调用目标机器学习算法对第一划分数据进行数据处理,以获得对应的第一子结果,并将第二划分数据发送至对应的执行服务器,以指示各执行服务器调用目标机器学习算法对第二划分数据进行数据处理,以获得对应的第二子结果;接收第二子结果;基于第一子结果和各第二子结果确定数据处理最终结果。
主权项:1.一种基于Pyspark框架的数据处理方法,其特征在于,所述方法应用于控制服务器,所述控制服务器位于分布式集群中,所述分布式集群中还包括至少一个执行服务器,所述分布式集群是基于Pyspark框架构建的,所述方法包括:接收数据处理设备发送的数据处理请求,并基于所述数据处理请求获得预处理数据;将所述预处理数据按照预设划分规则进行数据划分,以获得控制服务器对应的第一划分数据以及各执行服务器对应的第二划分数据;从自身的机器学习库中调用目标机器学习算法对所述第一划分数据进行数据处理,以获得对应的第一子结果,并将第二划分数据发送至对应的执行服务器,以指示各所述执行服务器从自身的机器学习库中调用目标机器学习算法对第二划分数据进行数据处理,以获得对应的第二子结果;接收各执行服务器发送的第二子结果;基于所述第一子结果和各所述第二子结果确定数据处理最终结果,并生成数据处理响应,所述数据处理响应中包括数据处理最终结果;将所述数据处理响应发送至数据处理设备,以提醒用户查看数据处理最终结果。
全文数据:
权利要求:
百度查询: 中国工商银行股份有限公司 基于Pyspark框架的数据处理方法、装置及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。