Infraestrutura de IA
Databricks detalha disponibilidade geral do AI Runtime para treinamento GPU gerenciado
Databricks apresenta treinamento GPU gerenciado, cargas multinó e depuração integrada, com condições de implantação e contêineres próprios ainda em Beta.
A Databricks publicou em 21 de outubro seu anúncio de disponibilidade geral do AI Runtime, aproximando o treinamento gerenciado com GPU dos dados empresariais já armazenados em sua plataforma. O serviço cuida do provisionamento de GPUs, da manutenção de clusters e das redes, enquanto as equipes executam seu próprio código de treinamento e ajuste de modelos. Ele conecta essa computação a notebooks, ferramentas de linha de comando e governança existente, reduzindo a infraestrutura separada que uma equipe de treinamento precisa operar.
A implantação tem um cronograma mais específico que a data do anúncio. A programação publicada pela Databricks lista 15 de outubro para disponibilidade geral em AWS e Azure nos espaços de trabalho sem o perfil de segurança de conformidade ativado. Espaços elegíveis que usam esse perfil têm disponibilidade padrão prevista para meados de novembro, dependendo dos padrões e regiões suportados. O texto de 21 de outubro apresenta a oferta durante essa implantação gradual, com acesso ainda determinado pelas condições regionais e do espaço de trabalho.
Um anúncio conjunto com a NVIDIA descreve suporte a treinamento distribuído multinó, NVIDIA NeMo e contêineres de software otimizados para GPU. O NCCL cuida da comunicação entre GPUs, enquanto a Databricks administra a infraestrutura subjacente. Desenvolvedores podem manter seus próprios ciclos de treinamento e frameworks conhecidos. As opções de ambiente gerenciado incluem uma configuração Standard mínima com CUDA e um ambiente de IA mais completo, com PyTorch e Transformers, acomodando diferentes requisitos de dependências.
Imagens Docker próprias têm condições de lançamento separadas. A documentação atual as classifica como Beta e exige que administradores ativem as prévias AI Runtime Beta Features e Databricks Artifact Registry. As imagens precisam ser armazenadas no registro do mesmo espaço de trabalho que envia a carga, com as permissões necessárias para envio e leitura. Essa opção admite ambientes de software aprovados pela organização e dependências de sistema, ao lado das alternativas gerenciadas.
A Databricks relata inicializações na escala de segundos, inclusive em clusters com RDMA, usando pools de GPUs sem servidor previamente preparados e carregamento tardio de imagens que continua buscando dados após o início da execução. A documentação de ambientes define um cache mais restrito para notebooks interativos: ao reabrir um notebook, os pacotes instalados podem ser reutilizados. Cargas de linha de comando e tarefas agendadas não usam esse cache e instalam as dependências novamente. A alegação de inicialização e o cache de dependências, portanto, descrevem partes diferentes do processo de execução.
O suporte ao Ray oferece outra forma de executar cargas Python existentes. As bibliotecas documentadas incluem Ray Core, Data, Train e Tune, abrangendo tarefas distribuídas, processamento de dados, treinamento e busca de parâmetros. Um notebook inicia Ray em seu único nó conectado; a interface de linha de comando pode executar um cluster fixo com um ou mais nós. A quantidade de nós permanece fixa durante a carga, e o escalonamento automático de clusters Ray não é suportado.
A observabilidade é integrada pelo MLflow. Uma atualização de 15 de outubro reformulou a aba Logs que pesquisa e filtra saídas por nó, gravidade e intervalo de tempo, acompanha uma carga em execução e baixa registros, com retenção de 60 dias. O Genie Code pode inspecionar logs de treinamento e ajudar a investigar erros no código do modelo, problemas de memória e sobrecarga de comunicação. O Lakeflow Jobs pode orquestrar treinamento, preparação de dados e avaliação, enquanto Declarative Automation Bundles permite implantações repetíveis desses fluxos.
Para acesso governado aos dados, a Databricks afirma que o Unity Catalog aplica permissões de leitura e escrita a dados de treinamento, checkpoints e logs. A infraestrutura usa isolamento de cargas no nível de máquina virtual e suporta PrivateLink e controles de rede de saída sem servidor. Essas capacidades funcionam junto das políticas de acesso e da configuração de rede do espaço de trabalho. Registros de uso e custo também ficam disponíveis nas tabelas de sistema da Databricks, permitindo contabilizar cada carga de treinamento junto das demais atividades da plataforma.