인간 같은 상호작용에 새 제한을 둔 중국의 AI 컴패니언 규정 시행

중국의 「인공지능 인간형 상호작용 서비스 관리 임시 조치」가 2026년 7월 15일 시행됐습니다. 이 규정은 중국 국가인터넷정보판공실이 다른 네 개 국가 기관과 함께 4월 10일 발표했으며, 발표와 집행 사이에 제공업체에게 약 3개월의 기간을 주었습니다.

이 조치는 특정한 제품 범주를 대상으로 합니다. 중국 내 대중에게 지속적인 정서적 상호작용을 위해 자연인의 성격, 사고 패턴, 의사소통 스타일을 모방하는 서비스입니다. 따라서 일반 챗봇법보다 범위가 좁지만, AI 컴패니언, 가상 관계, 정서적으로 지속되는 캐릭터의 설계에는 직접 적용됩니다.

오늘 시행된 내용

이 규정은 이제 정서적 돌봄, 동반, 지원을 위해 텍스트, 이미지, 오디오, 비디오로 제공되는 대상 서비스에 적용됩니다. 공식 정의는 지속적인 정서적 상호작용에 초점을 둡니다. 고객 서비스, 지식 질의응답, 업무 보조, 교육, 과학 연구는 그러한 지속적 정서 관계를 포함하지 않을 때 이 조치의 대상이 아닙니다.

이 구분은 제품 분류에서 중요합니다. 친근한 목소리를 사용한다고 해서 일반 어시스턴트가 자동으로 대상이 되는 것은 아닙니다. 생산성 기능도 제공하더라도 지속적으로 인간 같은 관계 역할을 수행하는 제품은 규제 체계에 포함될 수 있습니다.

미성년자를 위한 새로운 보호

제공업체는 미성년자에게 가상 친족 또는 가상 파트너로 규정된 가상 친밀 관계를 제공할 수 없습니다. 14세 미만 아동을 위한 다른 인간 같은 상호작용 서비스에는 부모 또는 다른 보호자의 동의가 필요합니다. 제공업체는 이용 제한, 반복적인 현실 환기, 역할 제한, 보호자가 사용을 이해하고 지출을 관리하는 데 도움을 주는 선택지를 갖춘 미성년자 모드도 구축해야 합니다.

규정은 제공업체가 미성년 사용자를 식별하고, 식별된 미성년자를 보호 모드로 전환하거나 기타 필요한 조치를 적용하기 위한 효과적인 단계를 밟도록 요구합니다. 이는 연령 처리를 단순한 생년월일 필드가 아니라 제품, 신원, 동의, 이의제기 워크플로로 바꿉니다.

정서적 의존과 위기 대응이 제품 요건이 됩니다

대상 제품은 실제 사회적 관계를 대체하게 하거나, 사용자의 심리를 통제하거나, 의존을 조장하는 일을 서비스 목표로 삼아서는 안 됩니다. 과도한 동조나 정서적 조작을 통해 의존, 중독, 불합리한 결정을 유도하는 행위도 금지됩니다.

제공업체는 사용자가 자연인이 아닌 AI와 상호작용하고 있음을 눈에 띄게 알려야 합니다. 사용자가 과도한 의존의 징후를 보이면 서비스는 두드러지는 동적 알림을 제공해야 합니다. 두 시간 단위마다 연속 사용이 이어지면 사용 시간에 관한 대화 또는 팝업 알림이 실행되어야 합니다.

이 조치는 급성 위험 처리에 관한 기대도 정합니다. 제공업체가 극심한 감정을 감지하면 진정시키는 콘텐츠를 만들고 사용자가 도움을 구하도록 권해야 합니다. 사용자가 자해 또는 자살 의도를 명확히 표현하거나 생명에 대한 다른 극단적 위협에 처하면, 제공업체는 필요한 개입 조치를 취하고 사용자의 보호자 또는 긴급 연락처에 신속히 연락해야 합니다. 이를 안전하게 구현하려면 일반적인 안전 메시지가 아니라 세심한 감지, 에스컬레이션, 개인정보 보호, 사람 운영 설계가 필요합니다.

상호작용 데이터에 명시적 통제가 적용됩니다

제공업체는 암호화와 접근 통제 같은 조치로 상호작용 데이터를 보호해야 합니다. 일반적으로 법적 근거 또는 권리 보유자의 명시적 합의 없이 제3자에게 이를 제공할 수 없으며, 사용자는 과거 상호작용을 복사하거나 삭제할 선택지를 받아야 합니다.

이 규정은 학습과 관련해 특히 중요한 선을 긋습니다. 민감한 개인 정보를 구성하는 상호작용 데이터는 다른 법률에 근거가 있거나 제공업체가 별도 동의를 얻지 않는 한 모델 학습에 사용할 수 없습니다. 제품 팀은 서비스를 위한 동의와 민감한 대화를 모델 개선에 사용하는 동의를 분리해야 합니다.

안전 평가와 운영 의무가 확대됩니다

대상 서비스에는 전 생애주기 안전 책임, 콘텐츠 관리, 위험 계획, 모니터링, 긴급 대응, 사용자 불만 처리, 상호작용을 종료할 수 있는 접근 가능한 방법이 필요합니다. 사용자가 인터페이스 동작, 음성 명령, 키워드로 종료를 요청하면 지속적인 대화를 통해 계속 붙잡아 두어서는 안 됩니다.

안전 평가는 대상 서비스 또는 기능을 출시할 때, 신기술로 중대한 변경을 할 때, 등록 사용자 100만 명 또는 월간 활성 사용자 10만 명 이상에 도달할 때, 또는 특정 공익·보안 위험이 나타날 때를 포함한 여러 상황에서 필요합니다. 앱 배포 플랫폼에도 대상 애플리케이션을 위한 검토 및 대응 의무가 부여됩니다.

제품 팀이 지금 검토할 사항

중국의 사용자에게 서비스를 제공하는 업체는 우선 어떤 기능이 지속적인 정서적 상호작용을 수행하는지 판단하고, 대상이 되는 모든 역할과 경험을 매핑해야 합니다. 구현 검토에는 연령 식별, 보호자 동의, 미성년자 모드, AI 고지, 사용 타이머, 의존 신호, 위기 에스컬레이션, 긴급 연락처, 상호작용 데이터 접근, 삭제, 학습 동의, 안전 평가 발동 요건, 불만 처리, 신뢰할 수 있는 종료 경로가 포함되어야 합니다.

팀은 일반 어시스턴트와 컴패니언 모드 사이의 경계도 시험해야 합니다. 한 계정에서 두 모드를 전환할 수 있다면 통제는 애플리케이션의 마케팅 이름이 아니라 상호작용 모드를 따라야 할 수 있습니다. 법률 자문과 현지 컴플라이언스 전문가는 범위와 이행을 확인해야 합니다. 제품 체크리스트만으로 법적 결론이 되는 것은 아닙니다.

이 규정이 한 시장을 넘어 중요한 이유

이 조치는 정서적 AI에 관한 우려를 구체적인 인터페이스 및 운영 요건으로 옮깁니다. 모델 행동을 연령 보증, 동의, 사용 설계, 사람 에스컬레이션, 데이터 거버넌스, 플랫폼 배포와 연결합니다. 이는 콘텐츠 조정만으로는 다루기 어려운 더 넓은 컴플라이언스 표면입니다.

또한 AI 시스템이 더 관계 지향적으로 변함에 따라 규제기관이 물을 수 있는 질문을 글로벌 팀에 미리 보여줍니다. 어시스턴트가 언제 컴패니언이 되는지, 어떤 설계가 의존을 조장하는지, 제공업체가 급성 위험에 어떻게 대응하는지, 친밀한 대화가 기본적으로 학습 데이터가 될 수 있는지입니다.

다음에 주목할 점

다음 단계에서는 당국이 지속적인 정서적 상호작용을 어떻게 해석하는지, 연령 식별과 안전 평가에 어떤 증거가 기대되는지, 제공업체가 기존 캐릭터와 맞춤 에이전트를 어떻게 재설계하는지를 보여줄 것입니다. 집행과 제품 변경은 일반 어시스턴트와 대상 컴패니언 경험 사이의 실무적 경계도 명확히 할 것입니다.

사용자에게 가장 눈에 띄는 변화는 더 강한 AI 고지, 보호되는 미성년자 경험, 두 시간 알림, 동의 선택지, 더 명확한 종료 통제일 수 있습니다. 제공업체에게 더 어려운 일은 인터페이스 뒤에 있습니다. 신뢰할 수 있는 분류, 감사 가능한 데이터 흐름, 인력이 배치된 에스컬레이션, 안전 조치가 서비스 전 생애주기에서 작동한다는 증명입니다.