- BigQuery 教程
- BigQuery - 首页
- BigQuery - 概述
- BigQuery - 初始设置
- BigQuery 与本地 SQL 引擎的比较
- BigQuery - Google Cloud Console
- BigQuery - Google Cloud 层次结构
- 什么是 Dremel?
- 什么是 BigQuery Studio?
- BigQuery - 数据集
- BigQuery - 表
- BigQuery - 视图
- BigQuery - 创建表
- BigQuery - 基本架构设计
- BigQuery - 修改表
- BigQuery - 复制表
- 删除和恢复表
- BigQuery - 填充表
- 标准 SQL 与传统 SQL
- BigQuery - 编写第一个查询
- BigQuery - CRUD 操作
- 分区和集群
- BigQuery - 数据类型
- BigQuery - 复杂数据类型
- BigQuery - STRUCT 数据类型
- BigQuery - ARRAY 数据类型
- BigQuery - JSON 数据类型
- BigQuery - 表元数据
- BigQuery - 用户自定义函数
- 连接外部数据源
- 集成计划查询
- 集成 BigQuery API
- BigQuery - 集成 Airflow
- 集成连接的表格
- 集成数据传输
- BigQuery - 物化视图
- BigQuery - 角色和权限
- BigQuery - 查询优化
- BigQuery - BI 引擎
- 监控使用情况和性能
- BigQuery - 数据仓库
- 挑战和最佳实践
- BigQuery 资源
- BigQuery - 快速指南
- BigQuery - 资源
- BigQuery - 讨论
BigQuery - 连接外部数据源
到目前为止,本教程的大部分内容都涉及 UI 和云终端,现在是时候探索通过外部数据源连接 BigQuery 了。
在 UI 中编写查询的局限性
虽然在 BigQuery Studio 中编写查询可能很方便,但事实是,这只能满足有限的用途:
- 初步开发 SQL 查询或脚本
- 调试查询
- 进行抽查或质量保证
仅仅在 UI 中编写和运行查询并不能帮助交付自动化数据解决方案。这意味着在 BigQuery SQL 环境中,您无法:
- 访问 BigQuery API
- 与 Airflow 集成
- 创建 ETL 管道
外部 BigQuery 集成
在接下来的章节中,我们将探讨如何将 BigQuery 与以下内容集成:
- BigQuery 计划查询
- BigQuery API (Python)
- Cloud Composer / Airflow
- Google 表格
- BigQuery 数据传输
外部 BigQuery 集成使开发人员能够利用 SQL 的强大功能来执行以下任务:
- 创建自动化提取加载 (EL) 作业
- 创建提取转换加载 (ETL) 作业
- 创建提取加载转换 (ELT) 作业
广告