Escolha do agente anfitrião

Ao avaliar a qualidade operacional, fiabilidade e custo, considere a escolha do host agente, como Microsoft 365 Copilot (agentes declarativos), Copilot Studio (agentes personalizados) ou Azure. Mantenha esta decisão separada do método de criação do agente. Onde um agente é executado ou alojado determina as suas capacidades de orquestração, acesso ao modelo e funcionalidades operacionais. Estas funcionalidades afetam diretamente a qualidade da resposta, o desempenho e o custo de operar a solução em escala.

Este artigo explica como as plataformas anfitriãs de agentes afetam as capacidades da solução. Aprende como diferentes métodos de autoria podem criar agentes na mesma plataforma anfitriã mantendo qualidade e comportamento consistentes, como um único método de autoria pode criar agentes em diferentes plataformas com diferentes qualidades e resultados comportamentais, e como o anfitrião molda o perfil de custos da solução.

Custo como consideração de operabilidade

Trate o custo como uma característica operacional estacionária, não como uma questão pontual de aquisição. Duas soluções podem produzir respostas idênticas enquanto diferem por uma ordem de grandeza no custo, porque o custo é determinado pela forma como o agente funciona, e não apenas pelo que ele retorna. A plataforma anfitriã corrige em grande parte as alavancas disponíveis para si:

• Consumo de tokens por interação. Cada instrução, fragmento de conhecimento e definição de ferramenta que o modelo processa num dado turno são faturados nesse turno. O contexto persistente que é carregado em cada interação é cobrado em cada interação, quer seja relevante ou não.
• Número de turnos do modelo. O orquestrador decide quantas vezes o modelo é invocado para completar uma tarefa. Mais ciclos de chamadas de ferramentas e mais replaneamento significam mais inferência.
• Seleção de modelos. Modelos de raciocínio maiores custam mais por token e adicionam latência. O host determina que modelos estão disponíveis e se é possível encaminhar diferentes etapas para modelos diferentes.
• Determinismo. As tarefas determinísticas não precisam, de todo, de inferência do modelo. Ao passá-lo para o código ou para ações, elimina-se tanto o custo em tokens como a variabilidade.

As secções que se seguem discriminam os controlos que mais influenciam o custo: a estrutura de orquestração, a escolha do modelo e a forma como estrutura as instruções por oposição a ações deterministas.

Microsoft 365 Copilot hospedagem

O Microsoft 365 Copilot fornece um ambiente de alojamento gerido para agentes declarativos com capacidades integradas de governação, segurança e conformidade. Esta plataforma oferece características de desempenho consistentes, independentemente do método de autoria que utilize para criar o agente.

Por exemplo, pode criar agentes declarativos usando a funcionalidade Agent Builder em Microsoft 365 Copilot, Copilot Studio, ou o Microsoft 365 Agents Toolkit. O agente host determina a orquestração, catálogo e opções de modelo de linguagem disponíveis para o programador. Estas opções são os maiores influenciadores da qualidade das respostas. As plataformas de autoria e criação devem ser o critério secundário para uma solução na fase operacional de estado estável.

Diferentes plataformas de autoria oferecem níveis variados de capacidades operacionais adequadas a diferentes necessidades organizacionais e fases do ciclo de vida do desenvolvimento. Enquanto o anfitrião do agente subjacente permanecer no Microsoft 365 Copilot (agentes declarativos), a qualidade mantém-se consistente à medida que progride através de diferentes telas de criação para satisfazer as suas necessidades operacionais.

A tabela seguinte resume as considerações sobre qual plataforma de autoria usar para agentes declarativos como exemplo ilustrativo.

Por exemplo, quando um agente recorre ao Work IQ para obter contexto, fazer recuperação de informação ou executar ações, essa utilização é faturada de forma variável, sendo o custo em créditos proporcional à complexidade do cenário, incluindo o tamanho do contexto, a profundidade do raciocínio e o número de passos.

Considere outros fatores, como as ferramentas de depuração e elevação do programador (não apresentadas na tabela). Tenha em mente que estes fatores são fortemente influenciados pela postura de segurança da sua organização e pela sua capacidade para uma determinada plataforma de desenvolvimento.

Promova os agentes declarativos Microsoft 365 Copilot integrados no Agent Builder para um agente declarativo criado com o Microsoft 365 Agents Toolkit. Esta estratégia mantém o Microsoft 365 Copilot como orquestrador para garantir um comportamento consistente dos agentes. Se um agente personalizado experimental incorporado no Copilot Studio cumprir os critérios de avaliação de prova de conceito e for necessário o controlo de versões para as operações empresariais, promova o agente para um pipeline gerido no Power Platform. Esta abordagem assegura que o orquestrador do Copilot Studio continua a ser o principal mecanismo para manter o comportamento do agente.

Orquestração e a estrutura do agente

O orquestrador, ou harness, é o ciclo de execução que planeia passos, seleciona e invoca ferramentas, gere a janela de contexto e decide quando uma tarefa é concluída. É o maior fator da qualidade da resposta e do custo operacional, porque controla quantas curvas de modelo ocorrem, quanto contexto se acumula em cada turno e como os resultados das ferramentas são reintroduzidos no modelo.

Como a plataforma de alojamento fornece o orquestrador, a escolha da plataforma determina em grande medida os seus limites de custo e latência:

• O Microsoft 365 Copilot fornece um orquestrador gerido. Obtém-se um custo previsível, com licença incluída, e um comportamento consistente, com controlo limitado sobre o próprio ciclo.
• O Copilot Studio fornece orquestração configurável (por exemplo, tópicos e orquestração generativa). O custo varia entre um modelo baseado em licenciamento e um modelo baseado em consumo, consoante o volume de trabalho generativo que delega ao modelo.
• O Azure e o pro-code dão-te controlo total sobre o loop. Avalie o custo da manutenção do código em comparação com tirar partido de um framework ou SDK bem mantido, como o Copilot SDK.

Quando o anfitrião os expõe, as principais alavancas de orquestração são:

• Orçamento de turnos. Limite ou ajuste o número de iterações de planeamento e de chamadas a ferramentas que o orquestrador pode executar antes de devolver uma resposta.
• Chamadas de ferramentas paralelas versus sequenciais. Executar chamadas de ferramenta independentes em simultâneo reduz a latência; Consolidá-los reduz os turnos.
• Gestão de contexto. Limitar, resumir ou aplicar janelas de contexto à conversação impede que o contexto cresça indefinidamente, o que mantém constante o custo de tokens por turno, em vez de aumentar de forma cumulativa.
• Armazenamento em cache. Reutilizar prefixos de pedidos em cache entre turnos ou sessões evita voltar a faturar contexto estável.

Escolha de modelos

O modelo que escolhes afeta o custo e a latência por token, e é em grande parte independente do método de autoria. Modelos de raciocínio maiores entregam resultados de maior qualidade em tarefas complexas, mas custam mais por token e respondem mais lentamente. Ajusta o modelo à dificuldade da tarefa em vez de recorrer à opção mais capaz para cada tarefa.

Arquiteto para o encaminhamento de modelos quando o host o suporta:

• Reserve os modelos de raciocínio fronteiriço para passos genuinamente difíceis, como raciocínio ambíguo, síntese ou geração aberta.
• Encaminhe subtarefas determinísticas ou simples , como classificação, extração, formatação e decisões de encaminhamento, para modelos mais pequenos, baratos e rápidos.
• Combine modelos num único agente quando o orquestrador suporta a seleção de modelos por passo, para que cada passo incorra apenas no custo da capacidade de que necessita.

A plataforma anfitriã determina quais os modelos que estão no catálogo, se é possível encaminhar por passo, qual é a janela máxima de contexto (janelas maiores permitem mais contexto mas custam mais por turno) e se a colocação em cache de pedidos está disponível. Valide estas capacidades como parte da decisão do anfitrião, porque definem o limite superior da otimização de custos ao nível do modelo que poderá realizar posteriormente.

Arquitetura para otimização de custos

Para além da escolha de um apresentador, orquestrador e modelo, a forma como estrutura as instruções e ações de um agente tem um impacto direto e recorrente nos custos. Dois princípios orientam o design eficiente em termos de custos:

1. Não pague pela inferência de modelos para tarefas determinísticas. Agrupar ações determinísticas em scripts, ações ou conectores, em vez de as descrever como instruções em linguagem natural que o modelo deve interpretar em cada execução. O código é executado uma vez, de forma barata, com saída previsível e sem custo ou variabilidade de tokens. Raciocinar sobre o mesmo procedimento em linguagem natural gera sempre custos de inferência e aumenta o risco de resultados inconsistentes.

2. Não pagues um custo contínuo em tokens por instruções que raramente usas. As instruções pré-carregadas ao nível do agente são faturadas em cada turno de cada interação, mesmo quando são irrelevantes para o pedido do utilizador. Carregar orientação e conhecimento sob demanda, apenas quando a tarefa o justifica, significa que só se paga por esse contexto quando este é realmente utilizado, e não de forma contínua. Este padrão de divulgação progressiva mantém o custo base de cada interação baixo.

A tabela seguinte resume quando pré-carregar instruções no agente versus quando transferir o trabalho para scripts determinísticos ou recursos sob demanda.

Na prática, um agente eficiente em termos de custos mantém as suas instruções permanentes mínimas e centradas na identidade e na segurança, representa procedimentos fixos como scripts ou ações e disponibiliza conhecimento especializado e orientações específicas de tarefa como recursos a pedido que só são carregados quando relevantes. O resultado é um custo por token de interação mais baixo, comportamento mais previsível e um prompt central mais pequeno e fácil de manter – sem sacrificar capacidade.

Próximo passo

Aprenda a medir a qualidade do agente, validar o desempenho em diversos cenários e garantir a prontidão operacional antes da implementação, utilizando quadros de avaliação.