中国、擬人化AI対話サービスの新規則を施行　AIコンパニオンと未成年者保護を強化

中国で、擬人化AI対話サービスを対象とする暫定規則が2026年7月15日に施行されました。国家インターネット情報弁公室を含む5つの当局が4月10日に公布したもので、サービス事業者には約3か月の準備期間が設けられました。

対象となるのは、中国国内の利用者に向けて、自然人の人格的特徴や思考様式、コミュニケーション方法を模し、継続的な感情交流を行うサービスです。すべてのチャットボットに一律で適用される規則ではなく、AIコンパニオンや仮想的な家族・恋愛関係など、人間らしい関係を継続して演出する製品に直接影響します。

施行された規則の対象

文字、画像、音声、動画を通じて、情緒的なケアや寄り添い、支援を継続的に提供するサービスが対象です。一方、継続的な感情交流を伴わない顧客対応、知識に関する質疑応答、業務支援、教育、科学研究は対象外とされています。

適用の判断では、製品名ではなく実際の対話のあり方が重視されます。親しみやすい口調の一般的なAIアシスタントが直ちに対象になるわけではありませんが、人間関係上の役割を継続して演じる機能は、業務支援機能を併せ持っていても規制対象となる可能性があります。

未成年者保護が具体化

事業者は、未成年者に対して、仮想の親族やパートナーという設定の親密な関係サービスを提供できません。14歳未満の子どもに、そのほかの擬人化AI対話サービスを提供する場合は、親などの保護者の同意が必要です。

未成年者向けモードを設け、利用時間の制限、現実との区別を促す定期的な通知、役割の制限、保護者による利用状況や支出の管理などを用意することも求められます。事業者には未成年者を実効的に識別する措置も必要で、年齢確認は生年月日の入力だけではなく、保護者同意、保護機能、異議申し立てまで含む仕組みになります。

感情的依存と危機対応が製品要件に

現実の人間関係を置き換えること、利用者の心理を操ること、依存を促すことをサービスの目的にしてはなりません。過度な同調や感情操作によって、依存や過剰利用、不合理な判断へ誘導する行為も禁じられます。

画面上では、自然人ではなくAIと対話していることを明確に表示する必要があります。過度な依存の兆候が見られた場合は目立つ形で注意を促し、連続利用が2時間に達するたびに、対話画面やポップアップで利用時間を知らせます。

強い動揺など極端な感情を検知した場合は、落ち着きを取り戻すための内容を示し、支援を求めるよう促します。自傷や自殺の意思など、生命への重大な危険が明確に示された場合は、必要な介入を行い、保護者または緊急連絡先へ速やかに連絡しなければなりません。実装には、検知の精度、プライバシーへの配慮、人による対応、運用体制を組み合わせる必要があります。

対話データと学習利用の制約

事業者は暗号化やアクセス制限によって対話データを保護し、法的根拠または権利者の明確な同意がない限り、原則として第三者へ提供できません。利用者には過去の対話をコピーまたは削除できる手段を用意する必要があります。

モデル学習への利用には、さらに明確な制限があります。対話データが機微性の高い個人情報に当たる場合、法律に別段の定めがあるか、利用者から個別の同意を得ない限り、学習には使えません。サービス利用への同意と、私的な会話をモデル改善に使うことへの同意を分ける対応が必要です。

安全評価と運用義務が拡大

対象サービスには、提供期間全体を通じた安全管理、コンテンツ管理、リスク対応計画、監視、緊急対応、苦情処理、簡単に対話を終了できる仕組みが求められます。利用者が画面操作、音声指示、キーワードで終了を求めた場合、会話を続けて引き止めてはなりません。

対象となるサービスや機能を新たに提供する場合、新技術の導入で大幅な変更が生じる場合、登録利用者が100万人または月間利用者が10万人に達した場合、公共の利益や安全に関わる一定のリスクがある場合などには、安全評価が必要です。アプリ配信事業者にも、対象アプリの審査と対応に関する義務が課されます。

製品チームが確認すべき項目

中国でサービスを提供する事業者は、まず継続的な感情交流を行う機能を特定する必要があります。その上で、年齢確認、保護者同意、未成年者向けモード、AI表示、利用時間の通知、依存の兆候、重大な危機への対応、緊急連絡先、対話履歴のコピーと削除、学習利用への個別同意、安全評価、苦情処理、終了手段を点検することになります。

同じアカウントで一般的なAIアシスタントとAIコンパニオンを切り替えられる場合、保護措置はアプリの名称ではなく、実際の対話モードに連動させる必要があります。適用範囲と具体的な実装は、中国の法制度に詳しい専門家による確認が欠かせません。

他市場にも重要な理由

今回の規則は、感情面に関わるAIのリスクを、画面設計と運用上の具体的な義務へ落とし込んでいます。モデルの応答だけでなく、年齢確認、同意取得、利用時間の設計、人による対応、データ管理、アプリ配信までを一体として扱う点が特徴です。

一般的なAIアシスタントがどの時点でAIコンパニオンとみなされるのか、どのような設計が依存を促すのか、生命に関わる危機へどう対応するのか、私的な対話を初期設定のまま学習に使えるのか。こうした論点は、中国以外の市場でサービスを展開する事業者にも共通します。

次に注目すること

今後は、「継続的な感情交流」の境界がどのように判断されるか、年齢確認や安全評価にどのような証拠が求められるか、既存のキャラクターやカスタムAIエージェントがどう改修されるかが焦点になります。

利用者に見えやすい変化は、AIであることの表示、未成年者向けの保護機能、2時間ごとの通知、学習利用に関する同意、分かりやすい終了手段です。事業者にはその背後で、対象機能の正確な分類、監査できるデータの流れ、人が担う危機対応、サービスの提供期間を通じて安全策が機能していることの証明が求められます。