Coloque seu agente do Databricks Apps em produção

Depois de criar um agente e implantá-lo nos Aplicativos do Databricks, leve-o para produção nesta ordem:

Página Descrição
1. Configurar CI/CD para seu agente de Aplicativos do Databricks Automatize implantações do Databricks Apps com o GitHub Actions. Usa federação de identidade de carga de trabalho (sem segredos de longa validade) e um fluxo de trabalho inicial incluído nos modelos de agente.
2. Faça um teste de carga no seu agente do Databricks Apps Localize o QPS máximo que seu agente pode sustentar. Execute um teste de carga com aumento gradual até a saturação em um build com simulação de LLM do seu agente para isolar a taxa de transferência da infraestrutura de plicativos do Databricks da latência do modelo.
3. Controlar o uso de LLM com o Gateway de IA do Unity Encaminhe chamadas LLM pelo Unity AI Gateway. Centralize as permissões, atribua o custo por aplicativo, troque de modelo e inspecione ou reprocesse o tráfego sem modificar o código do agente.

Para CI/CD genérica de Aplicativos do Databricks que não é específica do agente, consulte CI/CD para Aplicativos do Databricks com o GitHub Actions.

  • Last updated on