首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于HDFS批量删除文件加速方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:西安烽火软件科技有限公司

摘要:本发明公开了一种基于HDFS批量删除文件加速方法,涉及大数据存储技术领域,通过为Client提供批量删除文件的方法,极大地减少Client与NameNode的交互次数,从而减少多次发起的网络延时开销。同时也会降低NameNode的CPU开销,以及减少writeLock的次数。Client通过JavaAPI调用FileSystem类批量删除方法,传入待删除的源文件列表,向NameNode发起RPC请求,申请batchDelete文件或目录;Client能够批量访问NameNode元数据方法,Client对大量文件进行删除时,通过batchDelete方法批量访问NameNode元数据,极大地提升删除文件的性能,通过以上步骤,能够解决在高并发场景下,有效缓解NameNodeRPC压力、降低writeLock锁竞争以及提升Client删除文件的效率。

主权项:1.一种基于HDFS批量删除文件加速方法,其特征在于:包含客户端Client和名字节点NameNode两部分;其中,客户端Client:用于读取HDFS文件的应用程序。客户端Client:作为分布式文件系统的管理者,用于负责管理文件系统的命名空间、目录结构、元数据信息以及提供备份机制;具体包含如下步骤:步骤1,Client通过JavaAPI,调用FileSystem类listStatus方法获取指定多个文件或者目录下的元数据信息,调用FileSystem类batchDelete方法;其中,batchDelete为批量删除;JavaAPI为Java应用程序编程接口;FileSystem为文件系统;listStatus为列出文件状态;步骤2,Client向NameNode发起RPC请求,申请batchDelete文件或目录列表;其中,RPC为远程过程调用;步骤3,NameNode收到Client的delete请求,校验待删除文件是否存在以及客户端否有权限;当获取到writeLock后,会对请求中指定的文件或目录执行删除操作,NameNode处理完请求后会将删除操作的结果返回给客户端;其中,writeLock为写锁。

全文数据:

权利要求:

百度查询: 西安烽火软件科技有限公司 一种基于HDFS批量删除文件加速方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。