Usar o operador de GPU NVIDIA no Serviço Kubernetes do Azure (AKS)

O NVIDIA GPU Operator automatiza o gerenciamento e a implantação de todos os componentes de software NVIDIA necessários para provisionar a GPU, incluindo a instalação do driver, o plug-in do dispositivo NVIDIA para Kubernetes, o tempo de execução do contêiner NVIDIA e muito mais. Como o operador de GPU NVIDIA lida com esses componentes, não é necessário instalar separadamente o plug-in de dispositivo NVIDIA em seu cluster AKS. Isso também significa que a instalação automática do driver de GPU deve ser ignorada para usar o operador de GPU NVIDIA no AKS.

Tip

Se não precisares do controlo total do Operador de GPU NVIDIA, os pools de nós de GPU geridos pelo AKS (pré-visualização) instalam e mantêm o driver NVIDIA, o plugin de dispositivos Kubernetes e o exportador de métricas DCGM por ti.

Importante

O software de código aberto é mencionado em toda a documentação e amostras do AKS. O software que você implanta é excluído dos contratos de nível de serviço do AKS, da garantia limitada e do suporte do Azure. Ao usar a tecnologia de código aberto ao lado do AKS, consulte as opções de suporte disponíveis nas respetivas comunidades e mantenedores do projeto para desenvolver um plano.

A Microsoft assume a responsabilidade pela criação dos pacotes de código aberto que implantamos no AKS. Essa responsabilidade inclui ter a propriedade completa do processo de compilação, digitalização, assinatura, validação e correção rápida, juntamente com o controlo dos binários nas imagens de contentor. Para obter mais informações, consulte Gestão de vulnerabilidades para AKS e Cobertura de suporte AKS.

Antes de começar

  • Este artigo pressupõe que você tenha um cluster AKS existente. Se você não tiver um cluster, crie um usando a CLI do Azure, o Azure PowerShell ou o portal do Azure.
  • Você precisa da CLI do Azure versão 2.72.2 ou posterior instalada para definir o --gpu-driver campo. Executar az --version para localizar a versão. Se precisar de instalar ou atualizar, consulte Install CLI do Azure.

Observação

As VMs habilitadas para GPU contêm hardware especializado sujeito a preços mais altos e disponibilidade de região. Para obter mais informações, consulte a ferramenta de preços e a disponibilidade da região.

Limitações

Obtenha as credenciais para o seu cluster

Obtenha as credenciais para o seu cluster AKS usando o az aks get-credentials comando. O comando de exemplo a seguir obtém as credenciais para o cluster myAKSCluster no grupo de myResourceGroup recursos:

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

Observação

O operador de GPU NVIDIA não é compatível com várias versões do sistema operacional no mesmo cluster AKS.

  1. Evite a instalação automática de drivers de GPU criando um pool de nós com GPU NVIDIA usando o az aks nodepool add comando e definindo o campo --gpu-driver API para o valor none. Definir este campo API para none durante a criação do pool de nós salta a instalação padrão do driver da GPU. Para um exemplo, veja Saltar a instalação do driver GPU. Esta definição não altera nenhum dos nós existentes. Você pode dimensionar o pool de nós para zero e, em seguida, aumentar novamente para que a alteração entre em vigor.
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. Siga a documentação da NVIDIA para instalar o operador da GPU.

  2. Depois de instalar o GPU Operator, verifica se as GPUs podem ser agendadas e executa uma carga de trabalho na GPU.

Observação

Pode haver considerações adicionais a serem tomadas ao usar o operador de GPU NVIDIA e ao implantar em instâncias SPOT. Consulte https://github.com/NVIDIA/gpu-operator/issues/577

  • Last updated on