amazon-s3 - EMR S3:FileDeletedInMetadataNotFoundException:文件在元数据中被标记为已删除
问题描述
我尝试运行一个 hadoop 作业,该作业在 S3 上创建、复制、删除文件,并在需要时从 S3 读取这些文件。
我的工作因以下异常而间歇性失败,我正在寻找永久修复或解决方法。例外是:
引起:com.amazon.ws.emr.hadoop.fs.consistency.exception.FileDeletedInMetadataNotFoundException:文件''在元数据中被标记为已删除
当我emrfs diff
在作业失败后在外部运行命令时,输出的MANIFEST_ONLY
文件为红色。
然后我运行emrfs sync
删除这些文件的命令,然后我的作业运行没有错误。
我不想在作业失败后进行调试,因为这对我来说是不可接受的。此外,我不希望任何人工干预来确保我的工作无缝运行。
我的工作本身创建、复制、删除文件,然后无法读取它,这似乎令人困惑,我无法在文档中找到任何解决方案。
将不胜感激所有相关的建议。
解决方案
推荐阅读
- java - 无法获取单选按钮 ID
- mongodb - 电子商务的 Doctrine ODM 模式
- docker - 如何在 Azure 发布管道任务中动态地向 docker-compose.yml 提供 docker 图像标记?
- linux - kubectl exec 行为奇怪,即使 pod 中存在二进制文件,也说明找不到命令
- python - 计算滚动均方根
- html - 如何在同一位置设置不同的div?
- android - 如何在StaticLayout中获取每行应用跨度的每一行的文本大小?
- python - 如何将存储在函数中的变量值发送到另一个 Python 文件?
- javascript - 由提交函数改变的反应表单状态
- javascript - 如何更改传单路由机的语言