OpenAI stellt Private Safety Processing für Zero-Data-Retention bei Frontier-Modellen vor

OpenAI stellt eine neue Sicherheitsarchitektur namens Private Safety Processing vor. Sie soll ein schwieriges Problem für Unternehmenskunden lösen: Wie lassen sich immer leistungsfähigere Frontier-Modelle auf ernsten Missbrauch überwachen, ohne strenge Datenschutzversprechen zu schwächen? In der Ankündigung vom 19. August sagt OpenAI, berechtigte API-Kunden mit Zero Data Retention erhielten weiter die Zusage, dass Prompts und Modellantworten nach der Verarbeitung nicht gespeichert werden, während automatisierte Systeme Risikomuster über zusammenhängende Interaktionen erkennen.

Die Änderung ist wichtig, weil Frontier-Modelle nicht mehr nur einzelne Chatantworten liefern. Sie können längere Aufgaben ausführen, Werkzeuge nutzen, mit Code arbeiten und über mehrere Schritte handeln, wobei Risiken erst im Verlauf sichtbar werden. Eine einzelne Anfrage kann harmlos wirken, während eine Sequenz auf das Testen von Schutzmaßnahmen, koordinierte Konten, unbefugte Zugriffsversuche oder einen Agenten hinweist, der nach einem Stopp weiterhandeln soll. OpenAI argumentiert, dass Sicherheitsprüfungen pro Interaktion für solche Workflows nicht mehr ausreichen.

Private Safety Processing soll die Überwachung über verwandte Aktivitäten ausweiten, ohne OpenAI-Mitarbeitern Zugriff auf Kundendaten zu geben. Bei kundengesteuerten ZDR-Deployments bleiben Inhalte auf der Infrastruktur des Kunden. OpenAI entwickelt außerdem eine Option, bei der Inhalte auf OpenAI-Infrastruktur gespeichert, aber mit kundengesteuerten Schlüsseln verschlüsselt werden. In diesem Modell besitzt OpenAI nach eigenen Angaben keine Schlüssel, um die zugrunde liegenden Prompts oder Antworten zu lesen.

Wenn das automatische System ein mögliches Risiko erkennt, erhält OpenAI nur ein eng definiertes Signal über Art und Schwere der Aktivität, nicht den Inhalt selbst. Dieses Signal kann Entscheidungen über Maßnahmen unterstützen. Kunden können Warnungen mit Informationen aus ihren eigenen Systemen untersuchen. Wenn sie Einspruch einlegen, legitime Aktivität erklären oder eine bestätigte Missbrauchsuntersuchung unterstützen wollen, können sie selbst entscheiden, welche Informationen sie teilen.

Die Ankündigung reagiert auf eine Spannung, die sichtbarer wird, wenn KI-Agenten in regulierte Branchen vordringen. Banken, Gesundheitsunternehmen, Kanzleien, Behörden und Forschungseinrichtungen wollen die Leistungsfähigkeit von Frontier-Modellen, können aber oft nicht zulassen, dass ein Anbieter sensible Unterlagen, interne Pläne oder proprietäre Forschung für menschliche Prüfung speichert. Gleichzeitig stehen Anbieter unter Druck, schädliches Verhalten zu erkennen, das in einer einzelnen Nachricht nicht sichtbar ist.

OpenAI sagt, Private Safety Processing werde mit frühen Kunden getestet und von Organisationen unterschiedlicher Branchen, Regionen und Größen mitgestaltet. Der Rollout und ein technisches Whitepaper sind für September geplant. Für Käufer bleiben wichtige Fragen offen: wie Risikokategorien definiert werden, wie Fehlalarme behandelt werden und welche unabhängigen Zusicherungen zu Verschlüsselung, Schlüsselhoheit und Signalgewinnung möglich sind.

Die größere Bedeutung liegt darin, dass Datenschutzarchitektur Teil der Frontier-Modellsicherheit wird. In früheren Enterprise-KI-Debatten wurden Datenschutz und Missbrauchsüberwachung oft als konkurrierende Anforderungen behandelt. OpenAIs Vorschlag versucht, sie durch die Trennung von automatischer Risikoerkennung und menschlichem Inhaltszugriff kompatibel zu machen. Funktioniert das wie beschrieben, könnten datensensible Organisationen leistungsfähige Modelle eher für lange Workflows einsetzen. Ist das System undurchsichtig oder schwer prüfbar, werden Kunden beim Zugriff von Agenten auf sensible Betriebssysteme vorsichtig bleiben.