首页 > 其他 > 详细

hadoop常见错误集锦

时间:2014-03-05 06:25:37      阅读:466      评论:0      收藏:0      [点我收藏+]

1  Hadoop name -format后Incompatible namespaceIDS 错误解决办法

重新格式话namenode后,会重新分配一个namespaceId, 这个namespaceID就会和存储在datanode上的namespaceID不一致,

解决办法:

a  修改datanode中的namespaceID, 在“dfs.data.dir”/current/VERSION中进行修改,新的namespaceID可以在log中寻找;

b  删除datanode,  dfs.data.dir中的文件,或者更改dfs.data.dir目录为新目录  

 至于如何恢复系统的数据可以参考该文章: http://www.cnblogs.com/Richardzhu/p/3435989.html

2   SafeModeException

error: org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /home/feixiang/hadoop-0.20.2/mapred/system. Name node is in safe mode.
The ratio of reported blocks 0.0000 has not reached the threshold 0.9990. Safe mode will be turned off automatically.
org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot delete /home/feixiang/hadoop-0.20.2/mapred/system. Name node is in safe mode.
The ratio of reported blocks 0.0000 has not reached the threshold 0.9990. Safe mode will be turned off automatically.

原因:namenode每次启动的时候,会进入安全模式,接受datanode上报块数,如果上报的块数损失率达到某个数值(默认是1-0.9990),会一直处于只读不能写的安全模式。namenode每次启动的时候为什么要删除mapred/system文件???

有两种方式离开安全模式:  

a  在hdfs-site.xml中, 修改dfs.safemode.threshold.pct的值,但是具体为多少,要看log里面的ratio of reported blocks

b  强制离开。命令: hadoop dfsadmin -safemode leave

参考:

http://www.linuxidc.com/Linux/2012-12/76782.htm

http://blog.csdn.net/rzhzhz/article/details/7056793

 

hadoop常见错误集锦,布布扣,bubuko.com

hadoop常见错误集锦

原文:http://www.cnblogs.com/kangls/p/3580691.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!