Vertex AI endpoint idle

ルール ID: gcp.vertexai.endpoint.idle ・ カテゴリ: zombie ・ 必要な読み取り: インベントリ + 利用メトリクス 計画中

Vertex AI のエンドポイントにデプロイしたモデルは、予測リクエストが 1 件も来なくても常駐ノードの課金が続きます。このルールは、実験後に放置された推論エンドポイントを見つけます。

このページは判定規範に従う予定仕様です。閾値・観測窓の根拠(出典)は実装時に付記します。

何を無駄とみなすか

モデルがデプロイされていないのに残っているエンドポイント、またはモデルはデプロイ済みだが予測トラフィックが完全に途絶えたエンドポイント。後者は常駐レプリカの課金だけが続きます。

判定条件

• モデルが 1 つもデプロイされていない、または
• 30 日間の予測リクエストが 0 件である

必須 facts

• デプロイ済みモデル数と常駐レプリカ数
• 観測窓(30 日)内の予測リクエスト数
• 作成からの経過日数(構築直後のエンドポイントを誤検知しないための確認)

取得できない facts がある場合は「観測不能」と表示し、候補にしません(候補を捏造しない)。

誤検知・危険になり得る条件

• リリース前・承認待ちのモデルをデプロイ済みにして待機しているエンドポイント
• 30 日を超える周期でのみ呼ばれる推論(月次を超えるバッチ判定など)
• 構築・検証の途中でまだトラフィックを流していないエンドポイント

実行前の確認

• 命名・ラベルからモデルの用途(本番 / 実験)とリリース予定を確認する
• 呼び出し元となるはずのアプリケーション・パイプラインの有無を確認する
• IaC・デプロイパイプラインからの参照有無と、所有チームの利用予定を確認する

非破壊テストとロールバック

Safety Tier: medium — まずモデルのアンデプロイ(エンドポイントから外す)を提案します。モデル本体はモデルレジストリに残るため、再デプロイで戻せます。

1. モデルをエンドポイントからアンデプロイし、常駐レプリカの課金を止める
2. 呼び出しエラーの報告がないか観察する
3. エンドポイント自体の削除は、アンデプロイ後も利用がないことを確認してから別途判断する

ロールバック: モデルレジストリ上のモデルを同じエンドポイントへ再デプロイする。

効果検証

削減の確定は、変更前ベースラインと変更後請求の比較で行います(Verify)。

その他のルールはルールカタログを参照してください。