NVIDIA bündelt Unternehmen in einer offenen Allianz für KI-Sicherheit

NVIDIA und zahlreiche Technologieunternehmen haben die Open Secure AI Alliance gegründet. Im Mittelpunkt stehen offene Werkzeuge zum Schutz von KI-Systemen und der Software, die sie umgibt. Infrastruktur- und Sicherheitsanbieter, Unternehmenssoftwarefirmen und Open-Source-Organisationen wollen Technologien entwickeln und teilen, die Teams prüfen und an ihre Umgebung anpassen können, statt jeweils getrennte Kontrollen aufzubauen.

Die Angriffsfläche von KI reicht inzwischen über das Modell hinaus. Trainingsdaten, Bereitstellungsendpunkte, Plugins, Abhängigkeiten und Anwendungen mit Zugriff auf Unternehmensinformationen können zum Einstieg werden. Agenten lesen Dokumente, rufen APIs auf, verwenden Zugangsdaten und treffen mehrere Entscheidungen, bevor ein Mensch das Ergebnis sieht. Herkömmliche Anwendungssicherheit bleibt nötig, erklärt aber nicht allein, welche Aktionen ein Agent ausführen darf und wie jeder Schritt nachvollziehbar bleibt.

Die Allianz will auf Arbeiten der Linux Foundation und offener Sicherheitsgemeinschaften aufbauen. NVIDIA steuert Modelle, Gewichte, Daten und Forschung zu Agenten-Harnesses bei. Ein frühes Projekt soll Verhalten von Agenten leichter testbar, nachvollziehbar, prüfbar und steuerbar machen. Andere Mitglieder bringen Identitätsstandards, sichere Formate für Modellgewichte, signierte Patches und Werkzeuge für Scans mehrerer Modelle ein.

Der offene Ansatz ist für Organisationen relevant, die Sicherheitskontrollen im eigenen Netz betreiben oder mit vorhandener Überwachung verbinden müssen. Er kann auch kleineren Teams Zugang zu Technik geben, die sie nicht selbst entwickeln könnten. Offenheit löst jedoch die Wartung nicht automatisch: Projekte brauchen Verantwortliche, Finanzierung, Veröffentlichungsprozesse und klare Abläufe für die Behebung von Schwachstellen.

Für Unternehmen mit KI-Einsatz kann die Allianz eine gemeinsame Sprache für Systeme schaffen, die Modelle, Software und externe Aktionen verbinden. Geprüft werden müssen Identität, Berechtigungen, Isolation, Werkzeuge, Protokolle und Evaluation, nicht nur Modellgewichte. Wer das Modell schützt, aber Zugangsdaten oder veraltete Abhängigkeiten offenlässt, behält bei einem echten Vorfall eine große Lücke.

Die Meldung beschreibt deshalb den Beginn einer gemeinsamen Verteidigungsinfrastruktur und kein fertiges Sicherheitsprodukt. Entscheidend wird sein, ob Code und Testmethoden außerhalb einer einzelnen Plattform funktionieren und dauerhaft gepflegt werden. Die nächste Prüfung besteht darin, dass Verteidiger die Werkzeuge in realen Vorfällen einsetzen und Ergebnisse über verschiedene Modelle und Cloud-Umgebungen hinweg vergleichen können.

Die Allianz verweist auf einen konkreten Sicherheitsvorfall. Bei der Untersuchung von Hugging Face lief ein offenes GLM-5.2-Modell auf eigener Infrastruktur, um mehr als 17.000 Aktionen zu analysieren und den Einbruch einzudämmen, nachdem geschlossene Werkzeuge Angreifer und Verteidiger nicht unterscheiden konnten. NVIDIA sieht darin einen Beleg, dass Verteidiger fortgeschrittene Agenten selbst prüfen und anpassen können müssen. Zugleich räumt das Unternehmen Missbrauchsrisiken offener Modelle ein und fordert strenge Evaluation, Regeln gegen bösartige Nutzung und schnelle Behebung.