Databricks Apps エージェントを本番運用化する

エージェントを作成して Databricks Apps にデプロイしたら、次の順序で運用環境に移行します。

ページ 説明
1. Databricks Apps エージェントの CI/CD を設定する GitHub Actionsから Databricks Apps のデプロイを自動化します。 ワークロード ID フェデレーション (有効期間が長いシークレットなし) とエージェント テンプレートに付属するスターター ワークフローを使用します。
2. Databricks Apps エージェントをロード テストする エージェントが維持できる最大 QPS を見つけます。 エージェントのモック LLM ビルドに対して、負荷を段階的に増やして飽和状態に達するまでのロードテストを実行し、Databricks Apps インフラストラクチャのスループットをモデルのレイテンシから切り分けます。
3. Unity AI Gateway を使用して LLM の使用を管理する Unity AI Gateway を介して LLM 呼び出しをルーティングします。 エージェント コードを変更せずに、アクセス許可の一元化、アプリごとの属性コスト、モデルのスワップ、トラフィックの検査または再生を行います。

エージェント固有ではない汎用 Databricks Apps CI/CD については、CI/CD for Databricks Apps with GitHub Actionsを参照してください。