首页 > 解决方案 > 通过 Java API webui 提交 Flink 作业不显示日志

问题描述

背景:

由于计划搭建实时计算平台,未来启动、停止、监控作业等功能将通过自定义页面完成。因此,有必要调查API表单在初始阶段提交作业的使用方法。

地位:

现在我打了两个jar包(这两个jar包解释如下)。A.jar 其实就是要运行的 flink 项目。它只是一个消费kafka消息的demo。B.jar 代码使用 API A.jar 运行提交到 hadoop 集群。作业已经成功提交到hadoop集群,但是webUI上看不到日志信息。不知道应该在哪个jar包中修改日志相关的配置?还是在别处设置日志配置?(由于现在只是模拟,所以会有单独的jar包b.jar)

启动命令:

java -jar B.jar --bootstrap.servers localhost:9092 --consumergroup consumerTest --topic TestTopic A.jar运行时需要以下三个参数

hdfs上的A.jar A.jar pom文件如下:

       <dependencies>
                <dependency>
                        <groupId>org.apache.flink</groupId>
                        <artifactId>flink-shaded-hadoop-2-uber</artifactId>
                        <version>2.6.5-10.0</version>
                </dependency>
                <dependency>
                        <groupId>org.apache.flink</groupId>
                        <artifactId>flink-connector-kafka_${scala.binary.version}</artifactId>
                        <version>${flink.version}</version>
                </dependency>
                <dependency>
                        <groupId>org.apache.flink</groupId>
                        <artifactId>flink-streaming-java_${scala.binary.version}</artifactId>
                        <version>${flink.version}</version>
                        <scope>provided</scope>
                </dependency>
        </dependencies>

B.jar在本地目录下,执行B.jar提交flink作业,B.jar pom文件如下:

        <dependencies>
               <dependency>
                   <groupId>org.apache.flink</groupId>
                   <artifactId>flink-shaded-hadoop-2-uber</artifactId>
                   <version>2.6.5-10.0</version>
                </dependency>
                <dependency>
                        <groupId>org.apache.flink</groupId>
                        <artifactId>flink-yarn_2.11</artifactId>
                        <version>${flink.version}</version>
                        <exclusions>
                                <exclusion>
                                        <groupId>org.apache.hadoop</groupId>
                                        <artifactId>hadoop-yarn-common</artifactId>
                                </exclusion>
                        </exclusions>
                </dependency>
                <dependency>
                        <groupId>org.slf4j</groupId>
                        <artifactId>slf4j-log4j12</artifactId>
                        <version>1.7.7</version>
                </dependency>
                <dependency>
                        <groupId>log4j</groupId>
                        <artifactId>log4j</artifactId>
                        <version>1.2.17</version>
                </dependency>
        </dependencies>

在此处输入图像描述

标签: apache-flinkflink-streaming

解决方案


推荐阅读