首页 > 解决方案 > 色相在浏览器中执行任务和工作流运行有什么区别

问题描述

我的任务由多个sql组合而成。我将这些sql复制到浏览器窗口中执行。任务会成功。但我将 sql 复制到文件,然后编辑工作流程。我执行工作流程,它总是在特定点上有错误。我的 sqls 在标题中包含一些设置。

set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nonstrict;
set mapreduce.map.memory.mb=5120;
set mapreduce.reduce.memory.mb=5120;
set mapreduce.map.java.opts=-Xmx4096m;
set mapreduce.reduce.java.opts=-Xmx4096m;

create table as select ......;
create table as select ......;
create table as select ......;

哦,我对这个问题感到惊讶。我不明白。有人帮我吗?

错误信息是“...正在运行超出物理内存限制。当前使用情况:已使用 2.0 GB 的 2 GB 物理内存;已使用 3.5 GB 的 4.2 GB 虚拟内存。正在杀死容器”。此错误发生在地图阶段。

标签: hadoophivehadoop-yarnooziehue

解决方案


推荐阅读