oracle - Oracle cdap 到 BigQuery 多表的管道
问题描述
我正在 cdap 上构建一个管道,我有一个 oracle 数据库,我在其中连接并获取一个表,然后将此数据连接到 BigQuery Multitables 组件。
两个组件都单独进行了验证,并且由 cdap 工具本身进行验证,当我测试完整管道的执行时,我收到了错误:
ERROR Spark program 'phase1' failed with error: BQ_TEST has no outputs.Please check that the sink calls addOutput at some point.
解决方案
听起来来源可能没有任何记录。
补充@Yaojie Feng的回复,sink 需要 Avro 格式的 schema,但是Multiple Database Tables
source 插件会生成插件所需的 schema BigQuery Multi Table
,示例如下。
带有 Avro 格式架构的示例管道运行时参数:
钥匙:multisink.NEW_TABLE_NAME
价值:
{
"name": "NEW_TABLE_NAME",
"type": "record",
"fields": [
{"name": "id", "type": "long" },
{ "name": "name", "type": "string"}
]
}
来源。
推荐阅读
- linux - 使用 1000 个副本自动创建新的 kubernetes 部署 (kubernetes-cli)
- python - 一次将两个数据帧组合成一行 | 蟒蛇 | 熊猫
- javascript - 如何根据 th 更新 td?
- asp.net - 部署后未触发带有 ajax 的静态 Web 方法
- javascript - 如何在没有底部滚动的情况下使用 java 脚本、html、css 在移动布局中给出响应式表格?
- javascript - Javascript 将 2 个新键动态添加到新字典对象或增加(如果存在)
- ssis - 动态枢轴 SSIS
- ruby-on-rails - 如何通过简单的 ruby 代码获取前两条记录(不使用查询)
- java - 如何将我的测试数据作为从 YAML 文件中读取的 Object[][] 进行管理?
- node.js - 外部 API 调用在 node/express 项目中去哪里?