snowflake-cloud-data-platform - 将 SQL Server 数据复制到 Snowflake
问题描述
我有几个来自多个 SQL Server 数据库的表,我想将它们复制到 SF 中(用于分析目的)。我还没准备好购买任何外部工具。
有没有办法不用任何工具来完成?
解决方案
我去年做了这个,也不想花太多钱。
我做了以下事情:
- 创建 BCP 脚本输出到 JSON 文件
- 使用 AWS CLI 或者如果您想花费 59 美元,请使用 TnT Drive 并将从 BCP 导出创建的 JSON 文件放入 S3
- 在 Snowflake 中添加一个指向您的 S3 存储桶的阶段
- 在 Snowflake 中为您的 S3 文件创建外部表定义
- 查询 Snowflake 中的数据
对于我的情况,我发现 ODBC 和 Python 比使用 Snowflake External Tables 导出的 BCP 文件慢。
bcp "select (select * for json path, without_array_wrapper) from Product" queryout .products.json -c -S "SQLSERVER" -d ProductCatalog -T
推荐阅读
- jackrabbit - Jackrabbit/OAK 的最佳替代品是什么?
- c - 当我只需要执行一项任务时,我应该处理信号吗
- sql - 使用带有 order by 的 union 子句时出现问题
- javascript - 提取与特定模式匹配的所有值
- google-apps-script - Google 应用程序脚本在后台运行并耗尽我的配额?
- php - pear_mime/Pear_Mail 上的 HTML 电子邮件问题
- java - 混淆隐藏一些算法
- javascript - 不透明色调作为 Javascript 中 rgba 值的十六进制值
- opengl-es - 使用 twgl 和 framebuffers 会导致 GPU 内存泄漏并使浏览器崩溃(附有 plunkr)
- python - 在数据帧的所有行上应用 LSH approxNearestNeighbors