OpenAI présente Private Safety Processing pour garder les modèles de frontière compatibles avec Zero Data Retention

OpenAI présente une nouvelle architecture de sécurité appelée Private Safety Processing, destinée à résoudre un problème difficile pour les acheteurs d’IA en entreprise: comment surveiller des modèles de frontière de plus en plus capables contre des abus graves sans affaiblir des engagements stricts de confidentialité. Dans son annonce du 19 août, l’entreprise indique que les clients API éligibles utilisant Zero Data Retention continueront d’avoir la garantie que leurs prompts et réponses ne sont pas conservés après traitement, tandis que des systèmes automatisés chercheront des schémas de risque entre interactions liées.

Ce changement compte parce que les modèles de frontière ne se limitent plus à des réponses isolées. Ils peuvent réaliser des tâches longues, utiliser des outils, interagir avec du code et agir en plusieurs étapes où le risque n’apparaît qu’avec le temps. Une requête seule peut sembler inoffensive, mais une séquence peut révéler le test de garde-fous, une coordination entre comptes, une tentative d’accès non autorisé ou un agent continuant d’agir après instruction d’arrêt. OpenAI estime que les contrôles par interaction ne suffisent plus.

Private Safety Processing vise à étendre la surveillance d’activités liées sans donner au personnel d’OpenAI accès au contenu client. Dans les déploiements ZDR contrôlés par le client, le contenu reste sur l’infrastructure du client. OpenAI développe aussi une option où le contenu serait stocké sur son infrastructure, mais chiffré avec des clés contrôlées par le client. Dans ce cas, OpenAI dit que son personnel ne possède pas les clés nécessaires pour lire les prompts ou réponses.

Lorsqu’un système automatisé identifie un risque possible, OpenAI dit recevoir un signal étroitement défini sur le type et la gravité de l’activité, similaire à ses systèmes actuels, et non le contenu. Ce signal peut soutenir des décisions d’application, tandis que les clients enquêtent avec les informations disponibles dans leurs propres systèmes. S’ils souhaitent contester une décision, clarifier une activité légitime ou soutenir une enquête sur un abus confirmé, ils choisissent quelles informations partager.

L’annonce répond à une tension devenue plus visible avec l’arrivée d’agents IA dans des secteurs régulés. Banques, entreprises de santé, cabinets juridiques, gouvernements et organismes de recherche veulent la puissance des modèles de frontière, mais ne peuvent souvent pas laisser un fournisseur stocker des dossiers sensibles, plans internes ou recherches propriétaires pour examen humain. Dans le même temps, les fournisseurs doivent détecter des comportements nocifs qui ne se voient pas dans un seul message.

OpenAI indique que Private Safety Processing est testé avec des clients initiaux et façonné par des organisations de différents secteurs, régions et tailles. L’entreprise prévoit un début de déploiement et un livre blanc technique en septembre. Pour les acheteurs, des questions importantes restent ouvertes: définition des catégories de risque, traitement des faux positifs, garanties indépendantes sur le chiffrement, le contrôle des clés et la génération de signaux.

La portée plus large est que l’architecture de confidentialité devient une partie de la sécurité des modèles de frontière. Dans les débats précédents sur l’IA d’entreprise, protection des données et surveillance des abus étaient souvent vues comme opposées. La proposition d’OpenAI tente de les rendre compatibles en séparant détection automatisée de risque et accès humain au contenu. Si cela fonctionne comme décrit, les organisations sensibles à la confidentialité pourront utiliser plus sereinement des modèles capables pour des workflows longs. Si le système reste opaque ou difficile à auditer, les clients hésiteront encore avant de donner aux agents l’accès à des systèmes sensibles.