Conectar-se ao AI Runtime

Importante

O AI Runtime para tarefas de nó único está em Versão Prévia Pública. A API de treinamento distribuído para cargas de trabalho de várias GPUs permanece em Beta.

Conecte-se ao AI Runtime usando notebooks interativos, um IDE por um túnel SSH, trabalhos agendados, a Jobs API ou Declarative Automation Bundles. Vincular um notebook ao AI Runtime é a principal forma de executar cargas de trabalho de treinamento e ajuste fino, e você pode agendar esses mesmos notebooks como trabalhos recorrentes ou automatizá-los em pipelines de implantação.

Interativos (Notebooks)

Essa é a principal maneira de usar o AI Runtime. Para conectar seu notebook e configurar o ambiente:

  1. Em um notebook, clique no menu suspenso de computação na parte superior e selecione GPU sem servidor.
  2. Clique no ícone Ambiente. Para abrir o painel lateral ambiente .
  3. Selecione um acelerador no campo Acelerador . Para cargas de trabalho de treinamento distribuídas, selecione 8xH100. Consulte as opções de hardware para obter diretrizes sobre como escolher um acelerador.
  4. Selecione Standard v5 ou Standard v4 para o ambiente Standard, ou IA v5 ou IA v4 para o ambiente de IA, no campo ambiente Base .
  5. Clique em Aplicar e confirme se deseja aplicar o AI Runtime ao seu ambiente de notebook.

Observação

A conexão com sua computação termina automaticamente após 60 minutos de inatividade.

Dica

Para operações que não exigem GPUs (por exemplo, clonagem de um repositório Git, conversão de formatos de dados ou análise de dados exploratórios), anexe seu notebook a um cluster de CPU para preservar os recursos de GPU.

Conectar-se pelo terminal do IDE

Você pode se conectar ao AI Runtime na computação de GPU sem servidor diretamente de um terminal em seu IDE por meio de um túnel SSH.

Para se conectar ao AI Runtime, execute o databricks ssh connect comando com a opção --accelerator de um terminal em seu IDE. Nenhuma etapa de instalação separada é necessária. Para obter mais informações sobre o comando, consulte ssh o grupo de comandos.

databricks ssh connect --accelerator=GPU_1xA10

Para conectar e iniciar a sessão em Visual Studio Code ou Cursor, use a opção--ide. A CLI abre uma janela IDE apontando para a pasta de workspace inicial.

databricks ssh connect --ide=vscode

Para obter mais detalhes sobre como configurar, abrir projetos e executar código, consulte Conectar-se ao Databricks usando um túnel SSH.

Trabalhos (Agendado)

Você pode agendar notebooks que usam o AI Runtime como tarefas recorrentes. Consulte Criar e gerenciar trabalhos de notebook agendados para obter mais detalhes.

Depois de abrir o bloco de anotações que você deseja usar:

  1. Selecione o botão Agendar no canto superior direito.
  2. Selecione Adicionar agendamento.
  3. Preencha o formulário Novo cronograma com o nome do trabalho, o cronograma e o cálculo.
  4. Selecione Criar.

Você também pode criar e agendar trabalhos na interface de usuário Trabalhos e pipelines. Consulte Criar um novo trabalho para obter diretrizes passo a passo.

Observação

Não há suporte para a adição de dependências usando o painel Ambientes para trabalhos agendados do AI Runtime. As dependências devem ser instaladas programaticamente em seu notebook (por exemplo, %pip install). Não há suporte para recuperação automática. Se o trabalho falhar devido a pacotes incompatíveis, você deverá corrigir e executar novamente manualmente.

Para cargas de trabalho que possam exceder o runtime máximo de 7 dias, implemente pontos de verificação manual para permitir a retomada. Recomendamos usar volumes do Catálogo do Unity via UCVolumeWriter e UCVolumeReader de serverless_gpu.data. Consulte Pontos de verificação de modelos.

API de Jobs e Pacotes de Automação Declarativa

Você pode criar e gerenciar trabalhos de AI Runtime programaticamente usando a API de Trabalhos do Databricks ou os Pacotes de Automação Declarativa. Configure o tipo de computação como GPU sem servidor em seu trabalho ou definição de pacote para automatizar pipelines de implantação.

O exemplo a seguir mostra uma configuração de Pacotes de Automação Declarativa para um trabalho de AI Runtime usando o ambiente Standard:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Para usar o ambiente de IA do Databricks em vez do ambiente Standard, defina base_environment como o identificador de ambiente de IA (por exemplo, databricks_ai_v5 para IA v5) no ambiente spec e faça referência a ele na environment_key da tarefa:

Importante

A seleção de um ambiente de IA do Databricks como ambiente base do workspace está em versão Beta e exige a adesão de um administrador do workspace. Consulte Build para computação de GPU sem servidor (AI Runtime).

resources:
  jobs:
    sample_job:
      name: sample_job_aiv5_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv5
          spec:
            base_environment: databricks_ai_v5

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv5
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on