Tech Blog
AnyMind Group
Feb 1, 2023
[Tech Blog] Vertex AI を用いた機械学習バッチ推論基盤の運用
こんにちは。AnyMind で機械学習エンジニアをしている河本直起です。
AnyMind では 0 から MLOps 環境を作成しており、前回の記事では BigQuery View Table を用いた機械学習向けデータ基盤について紹介させていただきました。
以前の Vertex AI のバッチ推論基盤についての記事では、導入時点での構成について紹介しました。その後運用に当たりいくつかの改善を行ったため、今回の記事ではそれら改善点について個別に紹介させていただければと思います。
機械学習処理の流れ
まず、前提として現状のデータ生成から推論結果のサービングまでの流れを紹介します。
現在は以下のような形で、インプットデータの生成、モデル学習・バッチ推論と推論結果のサービングを行なっています。
まず、インプットデータが BigQuery 上に View Table として用意されており、モデル学習パイプラインがそのデータを元にモデルを生成します。後続のバッチ推論パイプラインではその生成されたモデルを用いて推論を行い、推論結果を BigQuery と Firestore (Datastore mode) に格納します。BigQuery は主に推論結果の確認や検証、機械学習間での推論結果の再利用の
