secunet konkretisiert KI-Cloud für Verschlusssachen mit Red Hat und deepset

secunet hat am 26. Oktober Einzelheiten einer geplanten KI-Cloud für Organisationen mit Verschlusssachen-Anforderungen vorgestellt. Das Unternehmen entwickelt das Angebot mit Red Hat und deepset auf Basis von NVIDIA-Technologien. Die Mitteilung ergänzt Sicherheitsarchitektur und Schritte zur Bereitstellung einer Kooperation, die NVIDIA bereits am 21. Oktober beschrieben hatte. Sie konkretisiert damit das Vorhaben; der Betriebsstart eines verfügbaren Dienstes ist damit noch nicht verbunden.

Nach Angaben von secunet baut die Architektur auf der SINA Cloud auf und nutzt NVIDIA BlueField-3-Prozessoren, um Sicherheitsaufgaben auf Hardware-Ebene zu isolieren. Bestehende SINA-Sicherheitskomponenten verfügen über Einsatzerlaubnisse des Bundesamts für Sicherheit in der Informationstechnik für Verschlusssachen. Diese können die Freigabe konkreter Implementierungen unterstützen. Daraus folgt jedoch keine pauschale Zulassung sämtlicher Anwendungen, die später auf der Plattform laufen könnten.

NVIDIAs frühere Darstellung erläutert die Arbeitsteilung: Beschleunigte Rechentechnik und die offenen Nemotron-Modelle liefern die KI-Grundlage, Red Hat OpenShift AI verwaltet die Arbeitslasten, Haystack orchestriert Agenten und secunet betreibt die Infrastruktur in deutschen Rechenzentren. Das verbindet einen deutschen Cloud-Betreiber mit internationalen Technologieanbietern. Entscheidend für die Kontrolle sind der Ort und die Art des Betriebs sowie die Auswahl von Modellen und Anwendungen. Die Architektur behauptet damit keinen ausschließlich europäischen Ursprung aller eingesetzten Komponenten.

Die Anwendungsebene ist wichtig, weil ein Sprachmodell allein die internen Dateien einer Organisation nicht kennt. Die Haystack-Dokumentation beschreibt Suchkomponenten, die für eine Frage relevante Dokumente auswählen und an die nächste Komponente einer Verarbeitungskette übergeben. In einer denkbaren Behördenanwendung könnten Beschäftigte so zunächst eine zugelassene Sammlung von Verwaltungsvorschriften durchsuchen und anschließend eine Antwort vorbereiten. Das illustriert Retrieval-Augmented Generation, kurz RAG. Es handelt sich um ein mögliches Anwendungsmuster, nicht um eine vom Konsortium angekündigte Einführung bei einem bestimmten Kunden.

Ob die Anwendung brauchbares Material findet, muss ebenfalls gemessen werden. Die Dokumentation der Haystack-Evaluatoren enthält Verfahren, um gefundene Dokumente mit erwarteten Ergebnissen und generierte Antworten mit Referenzantworten zu vergleichen. Eine Organisation könnte damit vor dem Arbeitseinsatz prüfen, ob ein Prototyp die richtigen Anweisungen findet und typische Fragen beantwortet. Diese Softwarefunktionen erklären, was Teams entwickeln und bewerten können. Eine Kennzahl zur Suchleistung oder Antwortqualität ist für sich genommen kein Nachweis einer bestandenen Sicherheitsprüfung für den Umgang mit Verschlusssachen.

Eine weitere praktische Unterscheidung ergibt sich aus Red Hats Installationsdokumentation. OpenShift AI lässt sich in beschränkten, vom Internet getrennten Netzen installieren, indem die benötigten Software-Images in eine private Registry gespiegelt werden. Der Speicher der betreffenden Komponenten muss innerhalb desselben Netzes erreichbar sein. Administratoren müssen außerdem Authentifizierung und weitere Abhängigkeiten konfigurieren. Diese dokumentierten Optionen erläutern den Aufbau lokal kontrollierter KI. Sie legen weder die spätere abgeschottete Konfiguration des Konsortiums fest, noch entfällt dadurch der laufende Aufwand für Software, Speicher und Identitätsverwaltung.

Für öffentliche Auftraggeber oder Unternehmen, die mit Verschlusssachen arbeiten, liegt der mögliche Nutzen in einer Umgebung, die Modelle und zugelassenes internes Wissen unter definierten betrieblichen Verantwortlichkeiten zusammenführt. Bei der Bewertung einer solchen Anwendung zählen sowohl hilfreiche Antworten als auch angemessene Datenzugriffe. Eine erfolgreiche Demonstration der Dokumentensuche beantwortet nur einen Teil der Beschaffungsentscheidung. Der Auftraggeber müsste weiterhin verstehen, welche Informationen einzelne Nutzer abrufen dürfen, welche Komponenten die Anwendung ausführen und wer die Umgebung pflegt.

secunet nennt als nächste Schritte die Integration der Komponenten und die Validierung ihres Zusammenspiels. Vor der Bereitstellung müssen außerdem die erforderlichen Zulassungs- und Freigabeverfahren abgeschlossen werden. Preise und einen Termin für die allgemeine Verfügbarkeit nennt die Mitteilung nicht. Das Angebot bleibt somit ein Entwicklungsvorhaben, dessen Bereitstellung von diesen Umsetzungs- und Genehmigungsschritten abhängt.