Escolha do agente host

Ao avaliar a qualidade operacional, a confiabilidade e o custo, considere a escolha do host do agente, como Microsoft 365 Copilot (agentes declarativos), Copilot Studio (agentes personalizados) ou Azure. Mantenha essa decisão à parte do método de criação do agente. Onde um agente roda ou está hospedado determina suas capacidades de orquestração, acesso ao modelo e recursos operacionais. Esses recursos afetam diretamente a qualidade da resposta, o desempenho e o custo para operar a solução em escala.

Este artigo explica como as plataformas host de agentes afetam as capacidades da solução. Você aprenderá como diferentes métodos de criação podem criar agentes na mesma plataforma de host, mantendo a qualidade e o comportamento consistentes, como um único método de criação pode criar agentes em diferentes plataformas com diferentes resultados de qualidade e comportamento e como o host formata o perfil de custo da solução.

Custo como uma consideração de operabilidade

Trate o custo como uma característica operacional de estado estável, não uma pergunta de aquisição única. Duas soluções podem produzir respostas idênticas enquanto diferem por uma ordem de magnitude no custo, pois o custo é impulsionado pela forma como o agente é executado, não apenas pelo que ele retorna. A plataforma hospedeira em grande parte determina as opções de controle à sua disposição:

• Consumo de token por interação. Cada instrução, trecho de conhecimento e definição de ferramenta que o modelo processa em um dado turno é cobrado naquele turno. O contexto permanente que carrega em cada interação é pago em cada interação, independentemente de ser relevante ou não.
• Número de turnos de modelo. O orquestrador decide quantas vezes o modelo é invocado para concluir uma tarefa. Mais iterações de chamada de ferramenta e mais replanejamento significam mais inferência.
• Seleção de modelo. Modelos de raciocínio maiores custam mais por token e adicionam latência. O host determina quais modelos estão disponíveis e se você pode rotear diferentes etapas para modelos diferentes.
• Determinismo. O trabalho determinístico não precisa de inferência de modelo. Movê-lo para código ou ações remove o custo do token e a variabilidade.

As seções a seguir detalham os controles que mais influenciam o custo: o framework de orquestração, a escolha do modelo e como você estrutura instruções em comparação com ações determinísticas.

hospedagem Microsoft 365 Copilot

Microsoft 365 Copilot fornece um ambiente de hospedagem gerenciado para agentes declarativos com funcionalidades internas de governança, segurança e conformidade. Esta plataforma oferece características de desempenho consistentes, independentemente do método de autoria que você use para criar o agente.

Por exemplo, você pode criar agentes declarativos usando o recurso Agent Builder no Microsoft 365 Copilot, Copilot Studio ou no Microsoft 365 Agents Toolkit. O host agente determina as opções de orquestração, catálogo e modelo de linguagem disponíveis para o desenvolvedor. Essas opções são os maiores influenciadores da qualidade da resposta. Plataformas de autoria e criação devem ser o critério secundário para uma solução na fase operacional em estado estável.

Diferentes plataformas de autoria oferecem diferentes níveis de capacidades operacionais adequadas a diferentes necessidades organizacionais e estágios do ciclo de vida do desenvolvimento. Desde que o host do agente subjacente continue sendo o Microsoft 365 Copilot (agentes declarativos), a qualidade permanece consistente à medida que você avança em meio a diferentes telas de criação para atender às necessidades operacionais.

A tabela a seguir resume as considerações sobre qual plataforma de autoria usar para agentes declarativos como exemplo ilustrativo.

Por exemplo, quando um agente recorre ao Work IQ para contexto, recuperação ou ações, esse uso é cobrado de forma variável, com o custo em créditos variando de acordo com a complexidade do cenário, incluindo o tamanho do contexto, a profundidade do raciocínio e o número de etapas.

Considere outros fatores, como incremento do desenvolvedor e ferramentas de depuração (não mostradas na tabela). Lembre-se de que esses fatores são fortemente influenciados pela postura de segurança da sua organização e sua capacidade para uma plataforma de desenvolvimento específica.

Promova agentes declarativos do Microsoft 365 Copilot, construídos no Criador de Agentes, para um agente declarativo desenvolvido com o Microsoft 365 Agents Toolkit. Essa estratégia mantém Microsoft 365 Copilot como o orquestrador para garantir o comportamento consistente do agente. Se um agente personalizado experimental criado no Copilot Studio atender aos critérios de avaliação de prova de conceito e o controle do código-fonte for necessário para operações empresariais, promova o agente para um pipeline gerenciado no Power Platform. Essa abordagem garante que o orquestrador do Copilot Studio continue sendo o principal mecanismo para manter o comportamento do agente.

Orquestração e infraestrutura do agente

O orquestrador, ou harness, é o loop de runtime que planeja etapas, seleciona e invoca ferramentas, gerencia a janela de contexto e decide quando uma tarefa é concluída. Ele é o único maior driver de qualidade de resposta e custo operacional, pois controla quantas voltas de modelo ocorrem, quanto contexto se acumula em cada turno e como os resultados da ferramenta são alimentados novamente no modelo.

Como a plataforma hospedeira fornece o orquestrador, a escolha da plataforma em grande parte determina sua faixa de custo e latência:

• Microsoft 365 Copilot fornece um orquestrador gerenciado. Você obtém um custo previsível, incluído pela licença e um comportamento consistente, com controle limitado sobre o loop em si.
• Copilot Studio fornece orquestração configurável (por exemplo, tópicos e orquestração generativa). O custo varia de um modelo baseado em licença a um baseado em consumo, dependendo de quantas tarefas generativas você delega ao modelo.
• Azure e pro-code dão a você controle total sobre o ciclo. Avalie o custo da manutenção de código em comparação com o uso de um framework ou SDK bem mantido, como o Copilot SDK.

Quando o host os expõe, as principais alavancas de orquestração são:

• Orçamento por turno. Limite ou ajuste quantas iterações de planejamento e chamada de ferramentas o orquestrador pode fazer antes de retornar.
• Chamadas de ferramenta paralelas versus sequenciais. Executar chamadas de ferramentas independentes em paralelo reduz a latência; consolidá-las reduz o número de interações.
• Gerenciamento de contexto. Cortar, resumir ou aplicar recurso de janela à conversa impede que o contexto cresça sem limites, mantendo o custo de tokens por turno constante, em vez de aumentar de forma cumulativa.
• Armazenamento em cache. Reutilizar prefixos de prompt armazenados em cache em turnos ou sessões evita uma nova cobrança pelo contexto estável.

Escolha do modelo

O modelo escolhido afeta o custo e a latência por token e é em grande parte independente do método de criação. Modelos de raciocínio maiores fornecem resultados de maior qualidade em tarefas complexas, mas custam mais por token e respondem mais lentamente. Associe o modelo à dificuldade da tarefa, em vez de recorrer por padrão ao modelo mais capaz para todas as tarefas.

Arquitete para roteamento de modelo quando o host dá suporte a ele:

• Reserve modelos de raciocínio de fronteira para etapas genuinamente duras, como raciocínio ambíguo, síntese ou geração aberta.
• Rotear subtarefas determinísticas ou simples , como classificação, extração, formatação e decisões de roteamento para modelos menores, mais baratos e mais rápidos.
• Combine modelos em um único agente quando o orquestrador oferece suporte à seleção de modelos por etapa, para que cada etapa pague apenas pela capacidade de que precisa.

A plataforma hospedeira determina quais modelos estão no catálogo, se você pode fazer o roteamento por etapa, o tamanho máximo da janela de contexto (janelas maiores permitem mais contexto, mas custam mais por turno) e se o cache de prompts está disponível. Valide essas capacidades como parte da decisão de hospedagem, pois elas determinam até que ponto você poderá otimizar custos no nível do modelo mais tarde.

Arquitetar para otimização de custos

Além de escolher um host, um orquestrador e um modelo, como você estrutura as instruções e ações de um agente tem um impacto de custo direto e recorrente. Dois princípios orientam o design econômico:

1. Não pague pela inferência de modelos para tarefas determinísticas. Agrupar ações determinísticas em scripts, ações ou conectores, em vez de descrevê-las como instruções de linguagem natural que o modelo deve interpretar em cada execução. O código é executado uma vez, barato, com saída previsível e sem custo ou variabilidade de token. Raciocinar usando o mesmo procedimento em linguagem natural incorre em custo de inferência todas as vezes e pode gerar resultados inconsistentes.

2. Não pague o custo de token permanente por instruções que você raramente usa. Instruções pré-carregadas no nível do agente são cobradas a cada turno de cada interação, mesmo quando não são relevantes para a solicitação do usuário. Carregar orientação e conhecimento sob demanda, somente quando a tarefa corresponde, significa que você paga por esse contexto quando ele é realmente usado, não continuamente. Esse padrão de divulgação progressiva mantém baixo o custo básico de cada interação.

A tabela a seguir resume quando carregar previamente instruções no agente e quando direcionar o trabalho para scripts determinísticos ou recursos sob demanda.

Na prática, um agente eficiente em termos de custo mantém no mínimo necessário suas instruções sempre ativas, voltadas para identidade e segurança, expressa procedimentos fixos na forma de scripts ou ações e disponibiliza conhecimento especializado e orientações específicas para tarefas como recursos sob demanda, que são carregados apenas quando relevantes. O resultado é um menor custo por token em cada interação, um comportamento mais previsível e um prompt principal menor e mais fácil de manter, sem perda de capacidade.

Próxima etapa

Aprenda a medir a qualidade do agente, validar o desempenho em diversos cenários e garantir a prontidão operacional antes da implantação, utilizando estruturas de avaliação.