hadoop - 之前停止运行(和工作)实例后无法启动 Hadoop,因为 Datanode 说目录已锁定
问题描述
我有一个运行 Hadoop 1.2.1 的集群,上面有 Giraph。服务器运行正常,但是当我停止它时,我无法让它再次运行。在 datanode 日志中,我收到以下错误: ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Cannot lock storage /pathToFolder/data/datanode. 该目录已被锁定。
我尝试了许多在网上找到的解决方案:
- 检查文件夹的权限。
- 检查名称节点和数据节点的版本文件的相同版本。
- 检查配置文件(core-site、hdfs-site、mapred-site、master、slave...)
- 删除/更改名称节点和数据节点数据文件夹
- 删除 hadoop 临时文件
底线是,一切似乎都很好,但仍然无法启动数据节点。数据节点的完整日志文件如下:
2020-06-24 11:23:46,624 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: STARTUP_MSG:
/********************
STARTUP_MSG: Starting DataNode
STARTUP_MSG: host = XXXX
STARTUP_MSG: args = []
STARTUP_MSG: version = 1.2.1
STARTUP_MSG: build = https://svn.apache.org/repos/asf/hadoop/common/branches/branch-1.2 -r 1503152; compiled by 'mattf' on Mon Jul 22 15:23:09 PDT 2013
STARTUP_MSG: java = 1.8.0_212
********************/
2020-06-24 11:23:46,719 INFO org.apache.hadoop.metrics2.impl.MetricsConfig: loaded properties from hadoop-metrics2.properties
2020-06-24 11:23:46,725 INFO org.apache.hadoop.metrics2.impl.MetricsSourceAdapter: MBean for source MetricsSystem,sub=Stats registered.
2020-06-24 11:23:46,726 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Scheduled snapshot period at 10 second(s).
2020-06-24 11:23:46,726 INFO org.apache.hadoop.metrics2.impl.MetricsSystemImpl: DataNode metrics system started
2020-06-24 11:23:46,791 INFO org.apache.hadoop.metrics2.impl.MetricsSourceAdapter: MBean for source ugi registered.
2020-06-24 11:23:46,794 WARN org.apache.hadoop.metrics2.impl.MetricsSystemImpl: Source name ugi already exists!
2020-06-24 11:23:46,903 INFO org.apache.hadoop.hdfs.server.common.Storage: Cannot lock storage /users/lahdak/rojas/AppHadoop/data/datanode. The directory is already locked.
2020-06-24 11:23:47,004 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Cannot lock storage /users/lahdak/rojas/AppHadoop/data/datanode. The directory is already locked.
at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.lock(Storage.java:599)
at org.apache.hadoop.hdfs.server.common.Storage$StorageDirectory.analyzeStorage(Storage.java:452)
at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:111)
at org.apache.hadoop.hdfs.server.datanode.DataNode.startDataNode(DataNode.java:414)
at org.apache.hadoop.hdfs.server.datanode.DataNode.<init>(DataNode.java:321)
at org.apache.hadoop.hdfs.server.datanode.DataNode.makeInstance(DataNode.java:1712)
at org.apache.hadoop.hdfs.server.datanode.DataNode.instantiateDataNode(DataNode.java:1651)
at org.apache.hadoop.hdfs.server.datanode.DataNode.createDataNode(DataNode.java:1669)
at org.apache.hadoop.hdfs.server.datanode.DataNode.secureMain(DataNode.java:1795)
at org.apache.hadoop.hdfs.server.datanode.DataNode.main(DataNode.java:1812)
2020-06-24 11:23:47,004 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG:
/********************
SHUTDOWN_MSG: Shutting down DataNode at XXXX
********************/
解决方案
仍然没有设法解决这个问题(Datanode 没有正确关闭),但我找到了解决这种情况的方法。我曾经lsof +D /path
检测活动进程并杀死它们。奇怪的是,这个过程对命令是不可见top
的。jps
推荐阅读
- c - 无效指针值在功能更改时不会更改
- image - 显示存储在 laravel storage/app/protected/images 中的图像但返回 404
- python - 启动 Flask....unicodeDecodeError
- c++ - 如何在 C++ 中保存对数组的更改
- java - JavaFX - 在具有 highdpi 的画布上使用矩形绘制时避免模糊
- assembly - 如何在gas中_exit之前推送退出状态?
- windows - 如何将 cv.imwrite 修复为我没有收到错误,并且图像的副本保存在我想要的文件夹中
- html - 媒体查询不适用于移动设备和桌面设备上的 CSS3 HTML5
- android - Kotlin:其他类类型的类型转换器
- javascript - firebase 函数缺少 oauth2 凭据