博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
HDFS超租约异常总结(org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException)
阅读量:4918 次
发布时间:2019-06-11

本文共 1820 字,大约阅读时间需要 6 分钟。

异常信息:

13/09/11 12:12:06 INFO hdfs.DFSClient: SMALL_BUFFER_SIZE is 512org.apache.hadoop.ipc.RemoteException: org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/put_dir/20130911-121205-858/ie_ping1_access_log.2013091111.lzo File does not exist. Holder DFSClient_-2082829022 does not have any open files.        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1623)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1614)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.completeFileInternal(FSNamesystem.java:1669)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.completeFile(FSNamesystem.java:1657)        at org.apache.hadoop.hdfs.server.namenode.NameNode.complete(NameNode.java:714)

字面理解为文件操作超租期,实际上就是data stream操作过程中文件被删掉了。之前也遇到过,通常是因为Mapred多个task操作同一个文件,一个task完成后删掉文件导致。

不过这次在hdfs上传文件时发生了这个异常,导致上传失败。google了一把,有人反馈跟dfs.datanode.max.xcievers参数到达上限有关。这个是datanode处理请求的任务

上限,默认为256,集群上面配置为2048.于是去所有datanode上面扫了一下log,发现果然出现了IOE:

java.io.IOException: xceiverCount 2049 exceeds the limit of concurrent xcievers 2048

翻源码找了一下xcievers,有DataXcievers和DataXcieversServer两个类,DataXcievers是DataXcieversServer启动的一个线程,用于处理输入输出数据流,其run()

方法有如下判断:

1   public void run() { 2          ...56       int curXceiverCount = datanode.getXceiverCount();57       if (curXceiverCount > dataXceiverServer.maxXceiverCount) {58         throw new IOException("xceiverCount " + curXceiverCount59                               + " exceeds the limit of concurrent xcievers "60                               + dataXceiverServer.maxXceiverCount);61       }

xcievers超过限制抛了一个IOException,这反应到DFSClient端,就是正在操作的文件失去了响应,于是就出现了上面的租约超期异常。

解决方案:

继续改大 xceiverCount 至8192并重启集群生效。

 

 

 

转载于:https://www.cnblogs.com/wangxiaowei/p/3317479.html

你可能感兴趣的文章
RocketMQ整理
查看>>
Spring框架整理
查看>>
HashMap 1.8 核心源码分析
查看>>
Redis中3种特殊的数据类型
查看>>
算法:通过堆排序,获取前N个最大数
查看>>
c#/netcore/mvc视图中调用控制器方法
查看>>
c# 匿名类型获取值
查看>>
Windows安装使用npm(Nodejs)
查看>>
小技巧
查看>>
position 定位属性,对div进行位置布局
查看>>
模板语法标签继承关系
查看>>
overflow,overflow-x,overflow-y 用法
查看>>
css3中的calc()
查看>>
DJango ORM相关笔记
查看>>
Django模板,变量,标签,过滤器,自定义标签过滤器
查看>>
Django-forms效验组件
查看>>
python装饰器
查看>>
npm常用命令
查看>>
python常用模块-re 正则表达式
查看>>
Django-Form组件之字段
查看>>