apache-spark - Spark Streaming 中 setJars() 方法的输入应该是什么
问题描述
val conf = new SparkConf(true)
.setAppName("Streaming Example")
.setMaster("spark://127.0.0.1:7077")
.set("spark.cassandra.connection.host","127.0.0.1")
.set("spark.cleaner.ttl","3600")
.setJars(Array("your-app.jar"))
假设我正在创建一个 Spark Streaming 应用程序
“your-app.jar”文件的内容应该是什么?我是否必须在我的本地文件系统中手动创建它并传递路径或者是使用 sbt 编译的 Scala 文件。
如果那是一个scala文件,请帮助编写代码
由于我是初学者,我只是想运行一些示例代码。
解决方案
SparkConf 类的 setJars 方法获取需要在集群上分发的外部 JAR。任何外部驱动程序,如 JDBC 等。
如果这是您所要求的,您不必在此传递您自己的应用程序 JAR。
推荐阅读
- css - firefox 使用“transform:rotate;”导致视觉伪影;
- azure - Terraform - 如何获取 azurerm 密钥保管库访问策略的应用服务对象 ID?
- android - 如何删除动态显示的 WebView 中的 div?(安卓)
- database - 如何使用 Cassandra 对数据进行版本控制?
- docker - 配置 Neo4j 并在 Docker 容器中保存数据
- bioinformatics - 如何在 FASTA 文件中找到基因的第一个碱基数?
- sql - 在 SQL Server 中按表中的一个值分组
- c# - C#:发送一个 TCP 请求,然后接收一个大文件流作为响应
- excel - 如何使用单元格选择临时突出显示选定的行,并锁定受保护的单元格?
- php - 如何让当前用户执行 Laravel 命令?