首页 > 解决方案 > 如何通过 csv 获取加载到 BigQuery 中的行数

问题描述

我正在通过 Python 将 csv 文件加载到 BigQuery 中,并且根据日志记录机制,我想打印在 Day 分区的 BigQuery 表中加载的行数

我在下面使用的代码给出了整个表的计数,但我想要每天的行数,这意味着每个当前分区。

所以如果昨天我加载2 rows,今天我加载3 rows然后 destination_table.num_rows = 5 (total count)

但我想要 3 ,仅在当前 Day 分区中加载的行数

 destination_table = client.get_table(dataset_ref.table("{stg_table_1}".format(stg_table_1=self.projconfig.stg_table_1)))
        print("Loaded {} rows.".format(destination_table.num_rows))

标签: pythongoogle-bigquery

解决方案


通过使用更容易检查加载作业的结果

load_job.result() # wait for the job to finish load_job.output_rows

而不是在加载数据后查询目标表。文档在这里

LE:或此处的文档:https ://googleapis.dev/python/bigquery/latest/generated/google.cloud.bigquery.job.LoadJob.html


推荐阅读