Databricks erläutert die allgemeine Freigabe von AI Runtime für verwaltetes GPU-Training

Databricks hat am 21. Oktober seine Ankündigung zur allgemeinen Verfügbarkeit von AI Runtime veröffentlicht. Verwaltetes GPU-Training rückt damit näher an die Unternehmensdaten, die bereits auf der Plattform liegen. Der Dienst übernimmt GPU-Bereitstellung, Clusterwartung und Netzwerkbetrieb, während Teams ihren eigenen Code für Modelltraining und Feinabstimmung ausführen. Er verbindet diese Rechenleistung mit Notebooks, Kommandozeilenwerkzeugen und vorhandener Daten-Governance und reduziert die separat zu betreibende Trainingsinfrastruktur.

Der Rollout folgt einem genaueren Zeitplan als dem Datum der Ankündigung. Databricks nennt im veröffentlichten Plan den 15. Oktober für die allgemeine Verfügbarkeit auf AWS und Azure in Workspaces ohne aktiviertes Compliance-Sicherheitsprofil. Geeignete Workspaces mit diesem Profil sollen die standardmäßige Verfügbarkeit Mitte November erhalten, abhängig von unterstützten Standards und Regionen. Der Beitrag vom 21. Oktober stellt das Angebot während dieser gestaffelten Einführung vor. Der Zugang hängt weiterhin von den Bedingungen des Workspaces und der jeweiligen Region ab.

Eine begleitende NVIDIA-Ankündigung beschreibt Unterstützung für verteiltes Training über mehrere Knoten, NVIDIA NeMo und GPU-optimierte Softwarecontainer. NCCL übernimmt die Kommunikation zwischen GPUs, während Databricks die zugrunde liegende Infrastruktur verwaltet. Entwickler können eigene Trainingsschleifen und vertraute Frameworks beibehalten. Als verwaltete Umgebungen stehen eine minimale Standard-Konfiguration mit CUDA und eine umfangreichere KI-Umgebung mit PyTorch und Transformers zur Wahl. So lassen sich unterschiedliche Anforderungen an Softwareabhängigkeiten berücksichtigen.

Für eigene Docker-Images gelten gesonderte Freigabebedingungen. Die aktuelle Dokumentation kennzeichnet sie als Beta und verlangt, dass Administratoren sowohl AI Runtime Beta Features als auch die Databricks-Artifact-Registry-Vorschau aktivieren. Images müssen in der Registry desselben Workspaces liegen, aus dem der Workload übermittelt wird. Hinzu kommen die nötigen Berechtigungen zum Hochladen und Lesen. Dieser Weg unterstützt organisatorisch genehmigte Softwareumgebungen und Systemabhängigkeiten neben den verwalteten Optionen.

Databricks berichtet von Starts innerhalb von Sekunden, auch für RDMA-fähige Cluster. Dafür nutzt es vorbereitete serverlose GPU-Pools und verzögertes Laden von Images, das nach Ausführungsbeginn weitere Image-Daten abruft. Die Umgebungsdokumentation beschreibt ein enger gefasstes Caching für interaktive Notebooks: Beim erneuten Öffnen können installierte Pakete wiederverwendet werden. Kommandozeilen-Workloads und geplante Jobs nutzen diesen Notebook-Cache nicht und installieren Abhängigkeiten jedes Mal neu. Die Startaussage und das Caching von Abhängigkeiten betreffen somit unterschiedliche Teile der Ausführung.

Ray-Unterstützung bietet einen weiteren Weg für vorhandene Python-Workloads. Die dokumentierten Bibliotheken Ray Core, Data, Train und Tune decken verteilte Aufgaben, Datenverarbeitung, Training und Parametersuche ab. Ein Notebook startet Ray auf seinem einzelnen angeschlossenen Knoten. Über die Kommandozeile kann dagegen ein fest dimensionierter Cluster mit einem oder mehreren Knoten laufen. Die Knotenzahl bleibt während des Workloads unverändert; automatisches Skalieren von Ray-Clustern wird nicht unterstützt.

Die Beobachtbarkeit ist über MLflow integriert. Ein Update vom 15. Oktober überarbeitete die Logs-Registerkarte für Suche und Filterung nach Knoten, Schweregrad und Zeitraum, das Verfolgen laufender Workloads sowie Log-Downloads. Die Aufbewahrung beträgt 60 Tage. Genie Code kann Trainingslogs untersuchen und bei der Analyse von Modellcodefehlern, Speicherproblemen und Kommunikationsaufwand helfen. Lakeflow Jobs orchestriert Training mit Datenvorbereitung und Bewertung. Declarative Automation Bundles unterstützen die wiederholbare Bereitstellung dieser Abläufe.

Für kontrollierten Datenzugriff wendet Unity Catalog laut Databricks Lese- und Schreibrechte auf Trainingsdaten, Prüfpunkte und Logs an. Die Infrastruktur isoliert Workloads auf Ebene virtueller Maschinen und unterstützt PrivateLink sowie ausgehende Netzwerkkontrollen für serverloses Computing. Diese Funktionen wirken zusammen mit den Zugriffsrichtlinien und der Netzwerkkonfiguration des Workspaces. Nutzungs- und Kostendaten stehen außerdem in Databricks-Systemtabellen bereit, sodass einzelne Trainings-Workloads gemeinsam mit anderen Aktivitäten auf der Plattform erfasst werden können.