BigQuery ML for unstructured data
- 1. BigQuery MLによる画像推論 2022/12/31 機械学習の社会実装勉強会第18 回 岩澤 幸太朗
- 2. ➢ BigQuery MLで非構造化データの推論が可能に (インポートしたTensorFlowモデルを使用) ➢ 2022/10よりプレビュー → 2022/12 時点では画像データのみ ○ 音声・動画・テキストなどは今後対応予定 今回の内容 Structured Data Semi-structured Data Unstructured Data
- 3. ➢ GCPの DataWarehouse サービス (AWSにおけるRedshift) ➢ GCPのデータパイプラインの中核 ➢ Compute, Storage, Memory が分離し自動スケーリング ➢ 日々機能アップデート(他クラウドサービスとの連携強化等) SQLで巨大なデータを管理、操作するプラットフォーム 対象： 構造化／半構造化／非構造化 データ オブジェクトテーブルにより分析可能に (2022/10) BigQuery
- 4. Tutorial: https://codelabs.developers.google.com/codelabs/bqml-intro#0 利用できるモデル: https://cloud.google.com/bigquery-ml/docs/bigqueryml-intro#supported_models_in 概要: https://cloud.google.com/bigquery-ml/docs/bigqueryml-intro ➢ SQLのみで前処理、学習、予測が可能 ➢ 作成済みTensorFlowモデルのインポートも可能 ➢ Vertex AI との連携により効果的な運用が可能 ○ 【第12回】Vertex AI Pipelinesで BigQuery MLのワークフローを管理（ETL ~ デプロイまで) ○ 【第10回】Vertex AI Model Registryで BigQuery MLのモデルを管理する ○ 【第9回】Vertex AI Workbench による Notebook 環境 BigQuery ML
- 5. ➢ Next ‘22 にて発表 ➢ Google Cloud Storage上の非構造化データを参照する外部テーブル ○ BigQuery MLによる推論実行 (2022/12時点では画像のみ) ○ リモート関数で分析実行 ● オブジェクトテーブルの例（列：オブジェクトのメタデータ） オブジェクトテーブル
- 8. ➢ CLOUD_RESOURCE 接続の作成 オブジェクト テーブルの概要 https://cloud.google.com/bigquery/docs/object-table-introduction?hl=ja オブジェクト テーブルを作成する https://cloud.google.com/bigquery/docs/object-tables?hl=ja ➢ 接続のサービスアカウントにCloud Storage へのアクセス権限を付与 オブジェクトテーブルの作成 1
- 10. ➢ TensorFlowモデルを Google Cloud Storage にアップロード ○ TensorFlow Hub https://tfhub.dev/ ○ 独自モデル ➢ アップロードしたモデルを BigQuery ML に読み込む 画像オブジェクト テーブルでの推論の実行 https://cloud.google.com/bigquery/docs/object-table-inference?hl=ja チュートリアル: 分類モデルを使用してオブジェクト テーブルで推論を実行する https://cloud.google.com/bigquery/docs/inference-tutorial-resnet?hl=ja BigQuery ML による推論 1 制限事項 https://cloud.google.com/bigquery/docs/object-table-inference? hl=ja#limitations
- 11. ➢ オブジェクト テーブルを ML.PREDICT 関数への入力として使用 BigQuery ML による推論 2
- 13. - オブジェクトテーブルを用いてGCS上の非構造化データを参照することができる - インポートしたTensorFlow モデルでBigQuery ML による推論が可能 まとめ
- 14. 【新機能】BigQueryのオブジェクト テーブルを使ってみる（プレビュー） https://dev.classmethod.jp/articles/bq-new-object-tables/ データと AI の統合により BigQuery に非構造化データ分析を提供する https://cloud.google.com/blog/ja/products/data-analytics/how-to-manage-and-process-unstructured-data-in-bigquery BigQuery リモート関数でCloud Translation API を使ってテキスト翻訳してみた https://dev.classmethod.jp/articles/bigquery-remote-function-with-cloud-translation-api/ 参考資料