python-3.x - 使用 Python 将数据写入雪花
问题描述
我们可以直接将数据写入雪花表而不使用 Python 的雪花内部阶段吗????
先在stage中写入然后转换然后加载到表中似乎是辅助任务。它可以像RDBMS中的JDBC连接一样一步完成吗?
解决方案
将数据加载到 Snowflake 中的绝对最快的方法是从内部或外部阶段的文件。时期。所有连接器都可以使用标准插入命令插入数据,但这不会很好。也就是说,许多 Snowflake 驱动程序现在透明地使用 PUT/COPY 命令通过内部阶段将大数据加载到 Snowflake。如果这是您所追求的,那么您可以利用 pandaswrite_pandas
命令在单个命令中将数据从 pandas 数据帧加载到 Snowflake。在幕后,它将为您执行 PUT 和 COPY INTO。
我强烈推荐这种模式,而不是任何驱动程序中的 INSERT 命令。而且我还建议在加载到雪花之后进行转换,而不是之前。
推荐阅读
- python - “embed.fields.0.value 中的无效表单正文:此字段是必需的”,但我相当确定该字段不为空
- docker - Mac 上的 Docker 服务
- pdf - 水晶报表 - 将页码显示为 1 of 2 和 2 of 2 等等
- laravel - Laravel 未定义函数环境
- linux - 在 Matlab R2018a 上从 linxus .sh 可执行文件训练 CNN 会出现独特的错误
- svg - 在 Adobe Illustrator 中导出为 SVG 会导致在 Web 上查看时出现不同的字体
- wordpress - 在浏览器中将 another-example.com 显示为 example.com/another(2 个域/1 个域上的 WordPress 安装)
- javascript - 为什么我会收到这个 ember-font-awesome 错误?
- github - Github 检查 API 和检查套件
- python - 熊猫:groupby尊重python中的条件