OpenAI、フロンティアAPIをゼロデータ保持に対応させるPrivate Safety Processingを予告

OpenAIは、Private Safety Processingという新しい安全アーキテクチャを予告した。企業のAI利用で難しくなっている課題、つまり厳格なプライバシー約束を弱めずに、より高性能なフロンティアモデルの重大な悪用をどう監視するかに答えるものだ。8月19日の発表で同社は、Zero Data Retentionを利用する対象API顧客について、処理後にプロンプトやモデル応答を保持しない約束を続けながら、関連する複数のやり取りにまたがるリスクパターンを自動で見ると説明した。

この変更が重要なのは、フロンティアモデルが単発のチャット応答にとどまらなくなっているからだ。モデルは長い作業をこなし、ツールを使い、コードに触れ、複数ステップで行動できる。単独のリクエストは無害に見えても、連続したリクエストからは安全策の探索、アカウントをまたいだ連携、不正アクセスの試行、止められた後もエージェントに行動を続けさせる意図が見えることがある。OpenAIは、従来の一回ごとの安全チェックだけでは足りないと見ている。

Private Safety Processingは、OpenAIの担当者が顧客コンテンツにアクセスせずに、関連活動の監視を広げる設計だ。顧客管理のZDR展開では、コンテンツは顧客のインフラに残る。OpenAIは、OpenAIのインフラ上に保存する場合でも、顧客が管理する鍵で暗号化する選択肢を開発している。その場合、OpenAI側は基礎となるプロンプトや応答を読む鍵を持たないという。

自動システムがリスクを見つけた場合、OpenAIが受け取るのは活動の種類や深刻度を示す限定的な信号であり、内容そのものではない。その信号は執行判断を支援し、顧客は自社システムに残る情報でアラートを調査できる。判断に異議を申し立てたい場合や、正当な活動を説明したい場合、また確認済みの不正調査を支援したい場合、顧客が共有する情報を選ぶ。

この発表は、AIエージェントが規制産業へ入る中で目立つようになった緊張への対応でもある。銀行、医療企業、法律事務所、政府機関、研究組織はフロンティアモデルの能力を求めるが、機密記録、内部計画、独自研究をベンダーに保存させて人が確認することは受け入れにくい。一方で、AI提供企業は単一メッセージでは見えない有害行為を検出する責任を強く問われている。

OpenAIによれば、Private Safety Processingは初期顧客とテスト中で、業界、地域、規模の異なる組織からの意見で形づくられている。9月には展開開始と技術ホワイトペーパーの公開を予定している。買い手にとっては、リスク分類の定義、誤検知への対応、暗号化や鍵管理、信号生成に関する独立した保証をどこまで得られるかが重要な確認点になる。

より大きな意味では、プライバシー設計がフロンティアモデル安全性の一部になりつつある。これまで企業AIでは、データ保護と悪用監視が競合する条件として扱われがちだった。OpenAIの提案は、自動リスク検出と人間による内容アクセスを分離して両立させようとするものだ。説明どおり機能すれば、プライバシーを重視する組織が長時間のエージェント業務に高性能モデルを使いやすくなる。ただし不透明で監査しにくいなら、顧客は重要システムへの接続に慎重なままだろう。