首页 > 解决方案 > 如何在 spark jdbc savemode.overwrite 中进行异常处理?

问题描述

我有一个写入 postgres db 的 spark 作业。我目前正在使用带有 truncate=true 的 savemode.overwrite。因此,每当 Spark 作业运行时,它都会截断表并写入数据。

我想知道在进行插入覆盖时,火花作业失败是否有可能导致数据被截断但不插入?

我试图确保如果 spark 作业失败,我最终不会得到一张空桌子。

标签: scalaapache-sparkapache-spark-sqlspark-streaming

解决方案


推荐阅读