python - 使用大查询下载数据
问题描述
我有一个非常大的表(大约 100 亿行)并且可以访问大查询。我试过了Select * from table
。它返回所有值,我想将此数据下载到我的本地计算机。我无权访问存储桶。我尝试使用 GUI,只有 16000 行的限制。我尝试运行查询bq extract table
,但它需要URI
存储桶。
有人可以指出我下载这些数据的正确方向吗?
解决方案
从 BigQuery 导出数据的正确方法是将其作为文件导出到bq extract table
作业中的 Google Cloud Storage (GCS)。
存储桶的一个URI
意味着您需要在 GCS 中创建一个存储桶,以便它可以托管输出文件 - 您可以稍后下载。
应该全部解释:https ://cloud.google.com/bigquery/docs/exporting-data
推荐阅读
- python - 如何在网页抓取中提取属于相同标签名称的元素?
- python - 将音频输出重定向到输入流 - python-sounddevice
- apache-kafka - 连接到现有 kafka 代理时,ksqlDB 服务器无法启动
- excel - 是否可以在一个驱动器中使用自动化来重构多头一个驱动器表?
- google-apps-script - 请帮忙!宏触发器未正确触发(onformsubmit)
- python - 如何定义一个期望堆栈作为参数的函数?(下面的完整问题)
- python - 我写了这个python代码,但每次它都给我错误的答案
- ios - 如何将我的数据转换为 JSON 格式 - 健康应用
- formik - Formik setStatus 未更新 - formik.status 未定义
- javascript - Livewire 和用于缩放图像的内联 js 脚本存在问题