如何在Google BigQuery中进行表格操作?

Jeff Mao

想要一些有关如何处理Google BigQuery中的表操作(重命名列)的建议。

目前,我有一个包装器来执行此操作。我的表按日期分区。例如:如果我有一个表名的事实,我将有几个表名为:

fact_20160301

fact_20160302

fact_20160303 ...等

我的重命名列包装器会生成别名查询。IE。如果我想从['address','name','city']-> ['location','firstname','town']更改我的表模式

我做批量查询操作: select address as location, name as firstname, city as town

并在父表上执行WRITE_TRUNCATE。

我的主要问题在于BigQuery仅支持50个并发作业。这意味着,当我提交批处理请求时,一次只能做大约30个分区,因为我想为正在运行的ETL作业保留20个位置。

另外,我还没有找到一种方法可以对批处理操作执行poll_job来查看批处理中的所有作业是否都已完成。

如果有人有一些提示或技巧,我很想听听他们。

米哈伊尔·伯利安(Mikhail Berlyant)

我可以提出两个选择

使用检视

创建视图和执行脚本非常简单-与使用select into方法扫描整个表的成本相比,它是免费且快速的
您可以使用创建视图:插入具有正确设置的type属性的API

使用作业:先插入EXTRACT,然后再装入

在这里,您可以将表提取到GCS,然后使用调整后的架构将其加载回GBQ

以上方法将a)消除查询(扫描)表的成本,并且b)可以帮助限制。但可能并不取决于表的实际数量和您可能具有的其他要求

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

如何在Yii中进行更新操作

来自分类Dev

如何在Xamarin中进行此类操作?

来自分类Dev

如何在Yii中进行更新操作

来自分类Dev

如何在熊猫中进行列操作?

来自分类Dev

您如何在Google表格中进行动态/从属下拉菜单?

来自分类Dev

在 Google BigQuery 中进行交叉透视

来自分类Dev

如何在angularjs中进行表格格式化?

来自分类Dev

如何在BigQuery中进行分区的外部联接

来自分类Dev

如何在BigQuery中进行数据分组?

来自分类Dev

如何在FOREACH循环中进行多项操作?

来自分类Dev

如何在Haskell中进行有状态列表操作

来自分类Dev

如何在Realm(iOS)中进行写入操作同步?

来自分类Dev

如何在表单提交中进行多项操作?的PHP

来自分类Dev

如何在nodejs / MongoDB中进行OR操作查询?

来自分类Dev

如何在python中进行图像处理中的OR遮罩操作?

来自分类Dev

如何在“单击运行”安装中进行Office互操作?

来自分类Dev

如何在MC中进行SCP操作(并记住)?

来自分类Dev

如何在wordpress插件中进行冗长的操作

来自分类Dev

如何在Shell中进行子目录操作?

来自分类Dev

JOOQ如何在UNION和WHERE中进行操作

来自分类Dev

如何在python中进行图像处理中的OR遮罩操作?

来自分类Dev

如何在Google文档中进行封闭式搜索?

来自分类Dev

如何在Google Colab中进行内部链接

来自分类Dev

如何在Google BigQuery中执行Trigram操作?

来自分类Dev

Google表格可以从列表中进行多次搜索和替换

来自分类Dev

在Google表格应用程序中进行身份验证

来自分类Dev

如何在Google表格中对行进行排序

来自分类Dev

如何在 Google Home 上更改 TTS 语音以进行操作?

来自分类Dev

如何在谷歌电子表格中进行页面明智的小计

Related 相关文章

热门标签

归档