apache-flink - 通过 Java API webui 提交 Flink 作业不显示日志
问题描述
背景:
由于计划搭建实时计算平台,未来启动、停止、监控作业等功能将通过自定义页面完成。因此,有必要调查API表单在初始阶段提交作业的使用方法。
地位:
现在我打了两个jar包(这两个jar包解释如下)。A.jar 其实就是要运行的 flink 项目。它只是一个消费kafka消息的demo。B.jar 代码使用 API A.jar 运行提交到 hadoop 集群。作业已经成功提交到hadoop集群,但是webUI上看不到日志信息。不知道应该在哪个jar包中修改日志相关的配置?还是在别处设置日志配置?(由于现在只是模拟,所以会有单独的jar包b.jar)
启动命令:
java -jar B.jar --bootstrap.servers localhost:9092 --consumergroup consumerTest --topic TestTopic A.jar运行时需要以下三个参数
hdfs上的A.jar A.jar pom文件如下:
<dependencies>
<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-shaded-hadoop-2-uber</artifactId>
<version>2.6.5-10.0</version>
</dependency>
<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-connector-kafka_${scala.binary.version}</artifactId>
<version>${flink.version}</version>
</dependency>
<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-streaming-java_${scala.binary.version}</artifactId>
<version>${flink.version}</version>
<scope>provided</scope>
</dependency>
</dependencies>
B.jar在本地目录下,执行B.jar提交flink作业,B.jar pom文件如下:
<dependencies>
<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-shaded-hadoop-2-uber</artifactId>
<version>2.6.5-10.0</version>
</dependency>
<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-yarn_2.11</artifactId>
<version>${flink.version}</version>
<exclusions>
<exclusion>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-yarn-common</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
<version>1.7.7</version>
</dependency>
<dependency>
<groupId>log4j</groupId>
<artifactId>log4j</artifactId>
<version>1.2.17</version>
</dependency>
</dependencies>
解决方案
推荐阅读
- java - Hibernate 不插入子实体: Hibernate: select nextval ('hibernate_sequence')
- kubernetes - Kubernetes 中特定命名空间的 Pod Affinity
- python - 如何将名称为“日期”的索引列转换为数据框中的工作日名称。索引格式为 dtype: int64
- mysql - 通过 SQL 从某些行创建一个 json 列
- python - Matplotlib 框大小不相等
- reactjs - 如何将反应应用程序保存为 html?
- sql - 使用一个表中的数据过滤第二个表而不连接
- rust - 如何在 Rust 中使不可变变量指向可变数据
- vuejs3 - 如何在 Vue.js 组合 API 中枚举“反应式”的键?
- php - MySQL 通过子选择变量过滤 WHERE