首页 > 解决方案 > 在 GCP 中使用 Cloud Functions 抓取页面并将其加载到 BigQuery

问题描述

我有关于 GCP 的问题。是否可以每天使用 Cloud Functions 抓取页面并将其发送到 BigQuery 我已经用 Python 编写了可以抓取页面并将其保存到 csv 的工作代码,现在我想将其移动到云端。我怎样才能做到这一点?

标签: pythongoogle-cloud-platformgoogle-bigquerygoogle-cloud-functions

解决方案


您可以csv从 python 将抓取的 ( ) 数据加载到 Google Cloud Storage。Bigquery 支持将数据加载为新表或将新数据附加到表中。后者需要你在 python 中完成,前者可以使用云控制台中的 UI 完成。

更多信息 在这里 和这里


推荐阅读