google-cloud-platform - 如何将“user_data_mapper”参数传递给光束管道的 WriteToSnowflake 函数?
问题描述
我正在尝试创建一个管道,用于使用 apache 梁将数据写入雪花。为了写入数据,我使用的是 WriteToSnowflakes 函数,但我收到以下错误消息。
TypeError:init()缺少1个必需的位置参数:'user_data_mapper'
当我搜索这个论点时,我创建了这个链接
https://beam.apache.org/documentation/io/built-in/snowflake/#required-parameters-1
但我无法理解这个函数。这个“用户”参数的含义、定义它的方式和位置以及必须从管道传递给这个函数的数据。任何人都可以帮我提供一些有关此参数的示例代码。
示例代码:
with TestPipeline(options=PipelineOptions(OPTIONS)) as p:
(p
| <SOURCE OF DATA>
| WriteToSnowflake(
server_name=<SNOWFLAKE SERVER NAME>,
username=<SNOWFLAKE USERNAME>,
password=<SNOWFLAKE PASSWORD>,
schema=<SNOWFLAKE SCHEMA>,
database=<SNOWFLAKE DATABASE>,
staging_bucket_name=<GCS OR S3 BUCKET>,
storage_integration_name=<SNOWFLAKE STORAGE INTEGRATION NAME>,
table_schema=<SNOWFLAKE TABLE SCHEMA>,
table=<SNOWFLAKE TABLE>,
create_disposition='CREATE_NEVER',
write_disposition= 'WRITE_TRUNCATE',
)
解决方案
推荐阅读
- esper - 如何在时间间隔内事件数量超过阈值时立即触发esper
- regex - 如何仅将字母数字与正则表达式匹配
- c# - SignalR Core如何每n秒向客户端发送消息
- maven - 当我使用 maven 编译 hadoop3.0.0beta1 时出现错误“连接被拒绝”
- c# - 将字典导出为 JSON,按键排序
- oauth-2.0 - 如何使 OAuth 2.0 插件在 Kong 上工作
- swift - Swift 4.2 & 观察枚举值
- javascript - 控件和循环不适用于 Youtube 视频(YouTube API)
- javascript - feathersjs 频道的事件不会传递给客户端
- javascript - 用于多语言页面上的 onclick 元素的缓存