apache-flink - Flink 在 Kubernetes 中使用的内存比 taskmanager.memory.process.size 多

Question

在 Flink 1.10.0 中，我们尝试使用taskmanager.memory.process.size来限制 taskmanager 使用的资源，以确保它们不会被 Kubernetes 杀死。但是，我们仍然得到很多OOMKilled具有以下设置的任务管理器。

关于如何正确设置 Kubernetes 和 Flink 的任何建议，以便我们没有OOMKilled？

• Kubernetes 设置与https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/deployment/kubernetes.html中描述的相同。

• 以下是Kubernetes中taskmanager部署的资源配置：

resources:
  requests:
    cpu: 1000m
    memory: 4096Mi
  limits:
    cpu: 1000m
    memory: 4096Mi

• 以下是flink-conf.yaml1.10.0中所有内存相关的配置：

jobmanager.heap.size: 820m
taskmanager.memory.jvm-metaspace.size: 128m
taskmanager.memory.process.size: 4096m

• 我们使用 RocksDB ，我们不设置state.backend.rocksdb.memory.managed.flink-conf.yaml

• 不知道如何检查我们是否有any substantial off-heap memory allocations in your application code or its dependencies. 有什么工具建议这样做吗？

  以下是我们的依赖项仅供参考。

val flinkVersion = "1.10.0"

libraryDependencies += "com.squareup.okhttp3" % "okhttp" % "4.2.2"
libraryDependencies += "com.typesafe" % "config" % "1.4.0"
libraryDependencies += "joda-time" % "joda-time" % "2.10.5"
libraryDependencies += "org.apache.flink" %% "flink-connector-kafka" % flinkVersion
libraryDependencies += "org.apache.flink" % "flink-metrics-dropwizard" % flinkVersion
libraryDependencies += "org.apache.flink" %% "flink-scala" % flinkVersion % "provided"
libraryDependencies += "org.apache.flink" %% "flink-statebackend-rocksdb" % flinkVersion % "provided"
libraryDependencies += "org.apache.flink" %% "flink-streaming-scala" % flinkVersion % "provided"
libraryDependencies += "org.json4s" %% "json4s-jackson" % "3.6.7"
libraryDependencies += "org.log4s" %% "log4s" % "1.8.2"
libraryDependencies += "org.rogach" %% "scallop" % "3.3.1"

• 我们在 Flink 1.9.1 中使用的配置如下。它没有OOMKilled。

  • Kubernetes

resources:
  requests:
    cpu: 1200m
    memory: 2G
  limits:
    cpu: 1500m
    memory: 2G

• Flink 1.9.1

jobmanager.heap.size: 820m
taskmanager.heap.size: 1024m

标签： apache-flink