NVIDIA erweitert Agent Toolkit um Grundlage für Unternehmenswissen und Vorhersagen

NVIDIA hat sein Agent Toolkit am 21. Oktober um Agent Knowledge Foundation erweitert. Die Sammlung von Modellen und Bibliotheken soll Unternehmensagenten mit den Informationen ihrer Firma verbinden. Die Ankündigung lenkt den Blick vom allgemeinen Wissen eines Modells auf Dokumente, Tabellen und Geschäftsbeziehungen, die für konkrete Entscheidungen benötigt werden. NVIDIA stellt die neue Grundlage neben seine OpenShell-Laufzeitumgebung, die NemoClaw-Referenzentwürfe und die Werkzeuge zum Aufbau und zur Verbesserung spezialisierter Agenten.

Das Unternehmen beschrieb Einsätze über mehrere Datenplattformen hinweg statt einer einzelnen neuen Anwendung. NVIDIAs Lieferkettenorganisation arbeitet mit Foundry, Ontology und AIP von Palantir, während Snowflake Kumo-Funktionen in Notebook-Umgebungen integriert. Andere Partner nutzen Nemotron-Retriever-Modelle für Suche und Dokumentenverständnis. Diese Beispiele zeigen unterschiedliche Integrationspunkte. Die Ankündigung bedeutet nicht, dass jede Komponente automatisch jedem Kunden der jeweils genannten Plattform zur Verfügung steht.

Die Entwicklerunterlagen beschreiben die Grundlage als modular. Nemotron Retriever liefert Dokumentenverarbeitung, Einbettungen und die Neusortierung von Suchergebnissen. CUDA-X-Bibliotheken unterstützen Datenvorbereitung, Ähnlichkeitssuche, Graphanalyse, maschinelles Lernen und Optimierung. Vorhandene Datenbanken, Ontologien und Agenten-Frameworks können weiterhin Bestandteil des Ablaufs bleiben. Die einzelnen Teile lassen sich getrennt übernehmen. Dadurch kann eine Anwendung eine Stufe ihrer Informationsverarbeitung verbessern, ohne dass die gesamte Datenumgebung des Unternehmens ersetzt werden muss.

Auto Ontology behandelt die Beziehungen hinter diesen Informationen. Es erzeugt aus Unternehmensdaten und Dokumentation eine erste Darstellung von Geschäftskonzepten, die Fachleute aus dem Unternehmen prüfen, verfeinern und zertifizieren können. Damit entsteht eine Ebene zwischen Rohdatensätzen und der Antwort eines Agenten: Kunden, Bestellungen oder Produkte lassen sich anhand ihrer Verbindungen zu anderen Datensätzen verstehen. Der erzeugte Ausgangspunkt erfordert weiterhin eine fachliche Validierung und darf nicht automatisch als maßgebliche Beschreibung gelten.

Kumo ergänzt Vorhersagen über strukturierte Daten. NVIDIA beschreibt eine Familie offener Modelle, Bibliotheken und Werkzeuge, die mit Tabellen, Beziehungen zwischen Tabellen und Zeitreihensignalen arbeiten. Zu den vorgesehenen Aufgaben zählen die Prognose von Ergebnissen, Risikobewertung, Erkennung ungewöhnlicher Aktivitäten und Handlungsempfehlungen. Diese Aufgaben unterscheiden sich vom Auffinden eines Absatzes in einem Dokument. Die Ausgabe betrifft ein mögliches künftiges Ergebnis oder ein Muster in Datensätzen, statt lediglich eine bereits vorhandene Aussage abzurufen.

Der Ansatz nutzt vortrainierte Modelle, um Arbeit zu reduzieren, die sich in herkömmlichen Projekten für voraussagendes maschinelles Lernen wiederholt. Solche Projekte erfordern häufig für jede Aufgabe eigene Datenvorbereitung, Merkmalsentwicklung, Training, Abstimmung und Bereitstellung. Kumo will einen größeren Teil dieser Fähigkeiten für verschiedene Probleme mit strukturierten Daten wiederverwendbar machen. Die Entwicklerbeschreibung erweitert damit die Rolle eines Unternehmensagenten über die Spracherzeugung hinaus. Daten, Fragestellung und Bewertung der Anwendung bleiben jedoch entscheidend dafür, ob eine Vorhersage tatsächlich nützlich ist.

Laufzeitkontrollen bilden einen weiteren Teil des Systems. Die Dokumentation von OpenShell beschreibt Richtlinien für lesbare und beschreibbare Pfade, Prozessidentitäten sowie die Netzwerkziele, die ein Programm erreichen darf. Zugriffe, die eine Richtlinie nicht erlaubt, werden abgewiesen. Einige Kontrollen stehen beim Start einer Sandbox fest, während sich Netzwerkregeln im Betrieb ändern lassen. Diese Mechanismen betreffen die erlaubten Handlungen der Agentensoftware. Ob ihre abgerufenen Belege oder Vorhersagen richtig sind, ist davon getrennt zu betrachten.

Wenn aus einer Vorhersage eine betriebliche Entscheidung werden soll, verbindet NVIDIA diese Komponenten mit cuOpt. Die Optimierungsbibliothek arbeitet mit Zielen und Einschränkungen, um Routen, Zeitpläne und Ressourcenzuteilungen zu erstellen. cuGraph liefert Analysen miteinander verbundener Datensätze, während cuML individuelle Abläufe für maschinelles Lernen unterstützt. Die Entwicklerunterlagen behandeln diese Werkzeuge als unabhängig nutzbare Komponenten und geben Teams mehrere Möglichkeiten, die neuen Modelle mit bereits vorhandenen Analysesystemen zu verbinden.