Databricks détaille la disponibilité générale d’AI Runtime pour l’entraînement GPU géré

Databricks a publié le 21 octobre son annonce de disponibilité générale d’AI Runtime, rapprochant l’entraînement GPU géré des données d’entreprise déjà présentes sur sa plateforme. Le service prend en charge l’approvisionnement des GPU, la maintenance des clusters et le réseau, tandis que les équipes exécutent leur propre code d’entraînement et d’ajustement des modèles. Il relie ce calcul aux notebooks, aux outils en ligne de commande et à la gouvernance existante, réduisant l’infrastructure distincte qu’une équipe d’entraînement doit exploiter.

Le déploiement suit un calendrier plus précis que la date de l’annonce. La programmation publiée par Databricks indique le 15 octobre pour la disponibilité générale sur AWS et Azure dans les espaces de travail sans profil de sécurité de conformité activé. Les espaces éligibles utilisant ce profil doivent bénéficier d’une disponibilité par défaut à la mi-novembre, selon les normes et régions prises en charge. L’article du 21 octobre présente l’offre pendant ce déploiement progressif, l’accès restant déterminé par les conditions de l’espace de travail et de sa région.

Une annonce parallèle avec NVIDIA décrit la prise en charge de l’entraînement distribué multinœud, de NVIDIA NeMo et de conteneurs logiciels optimisés pour GPU. NCCL assure les communications entre GPU, tandis que Databricks gère l’infrastructure sous-jacente. Les développeurs peuvent conserver leurs boucles d’entraînement personnalisées et leurs frameworks habituels. Les environnements gérés comprennent une configuration Standard minimale avec CUDA et un environnement d’IA plus complet contenant PyTorch et Transformers, afin de répondre à différents besoins de dépendances.

Les images Docker personnalisées ont leurs propres conditions de publication. La documentation actuelle les classe en bêta et exige l’activation, par les administrateurs, des préversions AI Runtime Beta Features et Databricks Artifact Registry. Les images doivent être stockées dans le registre du même espace de travail que celui qui soumet le traitement, avec les autorisations nécessaires pour les déposer et les lire. Cette voie prend en charge les environnements logiciels approuvés par l’organisation et les dépendances système, aux côtés des options gérées.

Databricks fait état de démarrages en quelques secondes, y compris pour des clusters compatibles RDMA, grâce à des pools GPU sans serveur déjà préparés et au chargement différé des images, qui continue à récupérer leurs données après le début de l’exécution. La documentation définit un cache plus restreint pour les notebooks interactifs : les paquets installés peuvent être réutilisés lors de leur réouverture. Les traitements en ligne de commande et les tâches planifiées n’utilisent pas ce cache et réinstallent leurs dépendances à chaque exécution. L’affirmation sur le démarrage et le cache des dépendances concernent donc différentes étapes du processus.

La prise en charge de Ray offre un autre moyen d’exécuter les traitements Python existants. Les bibliothèques documentées comprennent Ray Core, Data, Train et Tune, couvrant tâches distribuées, traitement des données, entraînement et recherche de paramètres. Un notebook lance Ray sur son unique nœud connecté ; l’interface en ligne de commande peut utiliser un cluster fixe d’un ou plusieurs nœuds. Leur nombre reste constant pendant le traitement, et la mise à l’échelle automatique des clusters Ray n’est pas prise en charge.

L’observabilité est intégrée via MLflow. Une mise à jour du 15 octobre a remanié l’onglet Logs permettant de rechercher et filtrer les sorties par nœud, gravité et période, de suivre un traitement en cours et de télécharger les journaux, avec une conservation de 60 jours. Genie Code peut examiner ces journaux et aider à analyser erreurs du code du modèle, problèmes de mémoire et surcoûts de communication. Lakeflow Jobs peut orchestrer l’entraînement avec la préparation des données et l’évaluation, tandis que Declarative Automation Bundles permet le déploiement reproductible de ces processus.

Pour l’accès gouverné aux données, Databricks indique que Unity Catalog applique les autorisations de lecture et d’écriture aux données d’entraînement, aux points de contrôle et aux journaux. L’infrastructure isole les traitements au niveau des machines virtuelles et prend en charge PrivateLink ainsi que les contrôles réseau sortants sans serveur. Ces capacités accompagnent les politiques d’accès et la configuration réseau de l’espace de travail. Les tables système de Databricks fournissent également les relevés d’usage et de coûts, permettant de comptabiliser chaque entraînement avec les autres activités de la plateforme.