O que é o Lote do Azure?

Use o Lote do Azure para executar trabalhos em lote de HPC (computação de alto desempenho) e paralelos em larga escala com eficiência no Azure. O Lote do Azure cria e gerencia um pool de nós de computação (máquinas virtuais), instala os aplicativos que você deseja executar e agenda trabalhos para execução nos nós. Não há nenhum software de cluster ou de agendador de trabalho para instalar, gerenciar ou escalar. Em vez disso, você usa APIs e ferramentas do Batch, scripts de linha de comando ou o portal do Azure para configurar, gerenciar e monitorar suas tarefas.

Os desenvolvedores podem usar o Batch como serviço de plataforma para criar aplicativos SaaS ou aplicativos cliente que exijam execução em larga escala. Por exemplo, você pode criar um serviço com o Batch para executar uma simulação de risco de Monte Carlo para uma empresa de serviços financeiros ou um serviço para processar grandes quantidades de imagens.

Não há custo adicional para usar o Batch. Você paga apenas pelos recursos subjacentes consumidos, como máquinas virtuais, armazenamento e rede.

Para ver uma comparação entre o Batch e outras opções de solução de HPC no Azure, confira Computação de Alto Desempenho (HPC) no Azure.

Executar cargas de trabalho paralelas

O Lote funciona bem com cargas de trabalho intrinsecamente paralelas (também conhecidas como "excessivamente paralelas"). Essas cargas de trabalho têm aplicativos que podem ser executados independentemente, e cada instância conclui parte do trabalho. Quando os aplicativos estão em execução, eles podem acessar alguns dados comuns, mas não se comunicam com outras instâncias do aplicativo. Cargas de trabalho intrinsecamente paralelas podem, portanto, ser executadas em uma escala ampla, determinada pela quantidade de recursos computacionais disponíveis para executar aplicações simultaneamente.

Alguns exemplos de cargas de trabalho intrinsecamente paralelas que você pode colocar no Lote:

  • Modelagem de riscos financeiros usando simulações Monte Carlo
  • Renderização de imagem 3D e VFX
  • Processamento e análise de imagem
  • Transcodificação de mídia
  • Análise de sequência genética
  • OCR (reconhecimento óptico de caracteres)
  • Ingestão de dados, processamento e operações de ETL
  • Execução de teste de software

Você também pode usar o Lote para executar cargas de trabalho firmemente acopladas, nas quais os aplicativos que você executa precisam se comunicar entre si, em vez de serem executados independentemente. Aplicativos firmemente acoplados normalmente usam a API MPI (Message Passing Interface). Você pode executar suas cargas de trabalho fortemente acopladas com o Batch usando Microsoft MPI ou Intel MPI. Melhore o desempenho de aplicativos com tamanhos de VM especializados em HPC e otimizados para GPU.

Alguns exemplos de cargas de trabalho firmemente acopladas:

  • Análise de elemento finito
  • Dinâmica de fluidos
  • Treinamento de IA multinó

Muitos trabalhos fortemente acoplados podem ser executados em paralelo usando o Batch. Por exemplo, execute várias simulações de um líquido fluindo por um cano com larguras diferentes.

Recursos adicionais do Lote

O Batch oferece suporte a cargas de trabalho de renderização em larga escala com ferramentas de renderização, incluindo Autodesk Maya, 3ds Max, Arnold e V-Ray.

Você também pode executar trabalhos em lote como parte de um fluxo de trabalho maior do Azure para transformar dados, usando ferramentas como o Azure Data Factory.

Como ele funciona

Um cenário comum para o Lote envolve expandir trabalho intrinsecamente paralelo, como a renderização de imagens para cenas 3D, em um pool de nós de computação. Esse pool pode ser sua "fazenda de renderização", que fornece dezenas, centenas ou até milhares de núcleos para sua tarefa de renderização.

O diagrama a seguir mostra as etapas de um fluxo de trabalho comum do Batch, com um aplicativo cliente ou serviço hospedado usando o Batch para executar uma carga de trabalho paralela.

Diagrama das etapas de uma solução em lote.

Etapa Descrição
1. Carregar os arquivos de entrada e os aplicativos para processar esses arquivos na sua conta do Armazenamento do Microsoft Azure. Os arquivos de entrada podem ser quaisquer dados que o aplicativo processe, como dados de modelagem financeira ou arquivos de vídeo a serem transcodificados. Os arquivos do aplicativo podem incluir scripts ou aplicativos que processam os dados, como um transcodificador de mídia.
2. Crie um pool de nós de computação do Lote na sua conta do Lote, um trabalho para executar a carga de trabalho no pool e as tarefas no trabalho. Os nós de computação são as VMs que executam as suas tarefas. Especifique propriedades para o seu pool, como o número e o tamanho de nós, uma imagem de VM do Windows ou do Linux e um aplicativo a ser instalado quando os nós ingressarem no pool. Gerencie o custo e o tamanho do pool usando VMs de Spot do Azure ou dimensionando automaticamente o número de nós de acordo com as alterações de carga de trabalho.

Quando você adiciona tarefas a um trabalho, o serviço Batch agenda automaticamente a execução das tarefas nos nós de computação no pool. Cada tarefa usa o aplicativo que você carregou para processar os arquivos de entrada.
3. Baixe os arquivos de entrada e as aplicações para o Batch Antes de cada tarefa ser executada, ela pode baixar os dados de entrada que processa para o nó atribuído. Se o aplicativo ainda não estiver instalado nos nós do pool, ele poderá ser baixado aqui em vez disso. Quando os downloads do Armazenamento do Azure forem concluídos, a tarefa será executada no nó atribuído.
4. Monitorar a execução da tarefa À medida que as tarefas são executadas, consulte o Lote para monitorar o andamento do trabalho e suas tarefas. Seu aplicativo ou serviço cliente se comunica com o serviço Batch por HTTPS. Como você pode estar monitorando milhares de tarefas em execução em milhares de nós de computação, consulte o serviço Batch com eficiência.
5. Carregar a saída da tarefa À medida que as tarefas são concluídas,elas podem carregar seus dados de resultados para o Armazenamento do Azure. Você também pode recuperar arquivos diretamente do sistema de arquivos em um nó de computação.
6. Baixar os arquivos de saída Quando o monitoramento detecta que as tarefas em seu trabalho foram concluídas, o aplicativo cliente ou serviço pode baixar os dados de saída para processamento adicional.

Tenha em mente que o fluxo de trabalho anterior é apenas uma maneira de usar o Lote e há muitos outros recursos e opções. Por exemplo, você pode executar várias tarefas em paralelo em cada nó de computação. Ou você pode usar as tarefas de preparação e de conclusão do trabalho para preparar os nós para os trabalhos e limpá-los posteriormente.

Consulte Fluxo de trabalho e recursos do serviço Batch para obter uma visão geral dos recursos, como conjuntos, nós, trabalhos e tarefas. Confira também as atualizações mais recentes do serviço Batch.

Residência de dados na região

Lote do Azure não move nem armazena dados do cliente fora da região em que ele é implantado.

Próximas etapas

Comece a usar o Lote do Azure com um destes guias de início rápido: