OpenAI, 프런티어 API의 Zero Data Retention을 유지하기 위한 Private Safety Processing 예고

OpenAI가 Private Safety Processing이라는 새로운 안전 아키텍처를 예고했다. 이는 기업 AI 구매자들이 마주한 어려운 문제, 즉 엄격한 개인정보 보호 약속을 약화하지 않으면서 더 강력해지는 프런티어 모델의 심각한 오남용을 어떻게 감시할 것인가에 대한 시도다. 회사는 8월 19일 발표에서 Zero Data Retention을 쓰는 적격 API 고객에게 요청 처리 후 프롬프트와 모델 응답을 보관하지 않는 약속을 계속 제공하면서, 관련 상호작용 전반의 위험 패턴을 자동 시스템이 살피게 된다고 설명했다.

이 변화가 중요한 이유는 프런티어 모델이 더 이상 단일 채팅 응답에 머물지 않기 때문이다. 모델은 긴 작업을 수행하고 도구를 사용하며 코드와 상호작용하고 여러 단계에 걸쳐 행동한다. 단일 요청은 무해해 보일 수 있지만, 일련의 요청은 안전장치 탐색, 여러 계정 간 조율, 무단 접근 시도, 멈추라는 지시 이후에도 에이전트가 계속 행동하도록 하는 패턴을 드러낼 수 있다. OpenAI는 기존의 한 번짜리 안전 검사가 이런 워크플로에는 충분하지 않다고 본다.

Private Safety Processing은 OpenAI 직원이 고객 콘텐츠에 접근하지 않으면서 관련 활동에 대한 모니터링을 확장하도록 설계됐다. 고객이 관리하는 ZDR 배포에서는 콘텐츠가 고객 인프라에 남는다. OpenAI는 콘텐츠를 OpenAI 인프라에 저장하되 고객이 제어하는 키로 암호화하는 선택지도 개발하고 있다. 이 경우 OpenAI 직원은 기본 프롬프트나 응답을 읽는 데 필요한 키를 갖지 않는다고 회사는 설명했다.

자동 시스템이 위험을 식별하면 OpenAI가 받는 것은 콘텐츠 자체가 아니라 활동 유형과 심각도를 나타내는 좁게 정의된 신호다. 그 신호는 집행 여부 판단에 쓰일 수 있고, 고객은 자신의 시스템에 있는 정보를 바탕으로 경고를 조사할 수 있다. 고객이 결정에 이의를 제기하거나 합법적 활동을 설명하거나 확인된 남용 조사를 지원하려면 어떤 정보를 OpenAI와 공유할지 직접 선택할 수 있다.

이번 발표는 AI 에이전트가 규제 산업으로 이동하며 커진 긴장에 대한 대응이기도 하다. 은행, 의료 회사, 로펌, 정부, 연구기관은 프런티어 모델의 능력을 원하지만 민감한 기록, 내부 계획, 독점 연구를 벤더가 보관하고 사람이 검토하도록 허용하기 어렵다. 동시에 AI 공급자는 단일 메시지에서 보이지 않는 유해 행동을 감지해야 한다는 압력을 받고 있다.

OpenAI는 Private Safety Processing을 초기 고객과 테스트 중이며 다양한 산업, 지역, 규모의 조직과 함께 구체화하고 있다고 밝혔다. 회사는 9월부터 이를 배포하고 기술 백서를 공개할 계획이다. 구매자에게는 위험 범주가 어떻게 정의되는지, 오탐이 어떻게 처리되는지, 암호화와 키 제어, 신호 생성에 대해 어떤 독립적 보증을 받을 수 있는지가 핵심 질문으로 남는다.

더 넓게 보면 프라이버시 아키텍처가 프런티어 모델 안전의 일부가 되고 있다. 이전의 기업 AI 논의에서는 데이터 보호와 오남용 감시가 서로 충돌하는 요구처럼 다뤄졌다. OpenAI의 제안은 자동 위험 감지와 사람의 콘텐츠 접근을 분리해 둘을 양립시키려는 시도다. 설명대로 작동한다면 개인정보 보호가 중요한 조직은 장기 에이전트 워크플로에 강력한 모델을 더 안심하고 쓸 수 있다. 하지만 시스템이 불투명하거나 감사하기 어렵다면 고객은 민감한 운영 시스템 접근을 허용하기 전 계속 신중할 것이다.