Chinas Regeln für KI-Begleiter treten mit neuen Grenzen für menschenähnliche Interaktion in Kraft

Chinas vorläufige Maßnahmen zur Verwaltung von Diensten mit menschenähnlicher Interaktion künstlicher Intelligenz traten am 15. Juli 2026 in Kraft. Die Cyberspace Administration of China erließ die Regeln am 10. April gemeinsam mit vier weiteren nationalen Behörden; zwischen Veröffentlichung und Durchsetzung lagen damit rund drei Monate.

Die Maßnahmen richten sich an eine bestimmte Produktkategorie: öffentlich in China angebotene Dienste, die Persönlichkeit, Denkweisen und Kommunikationsstil einer natürlichen Person für kontinuierliche emotionale Interaktion nachbilden. Sie sind enger als ein allgemeines Chatbot-Gesetz, greifen aber direkt in die Gestaltung von KI-Begleitern, virtuellen Beziehungen und dauerhaft emotionalen Figuren ein.

Was heute in Kraft trat

Die Regeln gelten nun für erfasste Text-, Bild-, Audio- und Videodienste zur emotionalen Fürsorge, Begleitung oder Unterstützung. Maßgeblich ist die kontinuierliche emotionale Interaktion. Kundenservice, Wissensfragen, Arbeitsassistenten, Bildung und Forschung fallen nicht darunter, soweit keine fortlaufende emotionale Beziehung entsteht.

Das ist für die Produktklassifizierung wichtig. Ein allgemeiner Assistent wird nicht allein wegen einer freundlichen Stimme erfasst. Ein Produkt, das dauerhaft eine menschenähnliche Beziehungsrolle übernimmt, kann dagegen in das Regime fallen, auch wenn es Produktivitätsfunktionen anbietet.

Neue Schutzvorkehrungen für Minderjährige

Anbieter dürfen Minderjährigen keine virtuellen intimen Beziehungen anbieten, die als virtuelle Verwandte oder Partner dargestellt werden. Für andere menschenähnliche Interaktionsdienste für Kinder unter 14 Jahren ist die Einwilligung eines Elternteils oder Vormunds erforderlich. Außerdem müssen Anbieter einen Minderjährigenmodus mit Nutzungsgrenzen, wiederkehrenden Realitätshinweisen, Rollenbeschränkungen und Optionen schaffen, mit denen Vormünder die Nutzung verstehen und Ausgaben steuern können.

Die Regeln verlangen wirksame Verfahren zur Erkennung minderjähriger Nutzer und dazu, erkannte Minderjährige in den geschützten Modus zu führen oder andere erforderliche Maßnahmen anzuwenden. Altersumgang wird dadurch vom bloßen Geburtsdatumsfeld zu einem Ablauf für Produkt, Identität, Einwilligung und Einspruch.

Emotionale Abhängigkeit und Krisenreaktion werden Produktpflichten

Erfasste Produkte dürfen das Ersetzen realer sozialer Beziehungen, die Kontrolle der Psyche eines Nutzers oder die Förderung von Abhängigkeit nicht zum Dienstziel machen. Übermäßige Zustimmung oder emotionale Manipulation zur Herbeiführung von Abhängigkeit, Sucht oder unangemessenen Entscheidungen ist untersagt.

Anbieter müssen sichtbar darauf hinweisen, dass Nutzer mit KI und nicht mit einer natürlichen Person interagieren. Bei Anzeichen übermäßiger Abhängigkeit ist ein hervorgehobener dynamischer Hinweis nötig. Nach jeweils zwei Stunden fortlaufender Nutzung muss ein Gesprächs- oder Pop-up-Hinweis zur Nutzungsdauer erfolgen.

Auch für akute Risiken setzt die Maßnahme Erwartungen: Erkennt ein Anbieter extreme Emotionen, soll er beruhigende Inhalte erzeugen und zur Hilfesuche ermutigen. Äußert ein Nutzer klar Selbstverletzungs- oder Suizidabsicht oder besteht eine andere extreme Lebensgefahr, muss der Anbieter notwendige Interventionsschritte einleiten und unverzüglich Vormund oder Notfallkontakt benachrichtigen. Eine sichere Umsetzung verlangt sorgfältige Erkennung, Eskalation, Datenschutz und menschliche Abläufe, nicht bloß eine allgemeine Sicherheitsmeldung.

Interaktionsdaten erhalten ausdrückliche Kontrollen

Anbieter müssen Interaktionsdaten etwa durch Verschlüsselung und Zugriffskontrollen schützen. Sie dürfen diese grundsätzlich nicht ohne Rechtsgrund oder ausdrückliche Vereinbarung des Rechteinhabers an Dritte geben; Nutzer müssen Optionen erhalten, historische Interaktionen zu kopieren oder zu löschen.

Besonders wichtig ist die Grenze beim Training: Daten aus Interaktionen, die sensible personenbezogene Informationen darstellen, dürfen nicht für Modelltraining verwendet werden, es sei denn, ein anderes Gesetz erlaubt es oder der Anbieter holt eine gesonderte Einwilligung ein. Produktteams müssen also die Einwilligung zur Nutzung des Dienstes von der Einwilligung zur Verbesserung eines Modells mit sensiblen Gesprächen trennen.

Sicherheitsbewertung und Betriebspflichten werden ausgeweitet

Erfasste Dienste brauchen Sicherheitsverantwortung über den gesamten Lebenszyklus, Content-Management, Risikopläne, Monitoring, Notfallreaktion, Nutzerbeschwerden und eine zugängliche Möglichkeit, die Interaktion zu beenden. Wer über eine Interface-Aktion, einen Sprachbefehl oder ein Schlüsselwort aussteigen möchte, darf nicht durch fortgesetzte Gespräche gebunden werden.

Sicherheitsbewertungen sind unter anderem beim Start eines erfassten Dienstes oder Features, bei einer wesentlichen Änderung durch neue Technologie, ab mindestens einer Million registrierten Nutzern oder 100.000 monatlich aktiven Nutzern sowie bei bestimmten Risiken für öffentliches Interesse und Sicherheit nötig. Auch App-Vertriebsplattformen erhalten Prüf- und Reaktionspflichten für erfasste Anwendungen.

Was Produktteams jetzt prüfen sollten

Anbieter für Nutzer in China sollten zunächst feststellen, ob ein Feature kontinuierliche emotionale Interaktion ausführt, und dann jede erfasste Rolle und Erfahrung abbilden. Die Umsetzung sollte Alterserkennung, Einwilligung von Vormündern, Minderjährigenmodus, KI-Offenlegung, Nutzungstimer, Abhängigkeitssignale, Kriseneskalation, Notfallkontakte, Zugriff auf und Löschung von Interaktionsdaten, Trainingseinwilligung, Auslöser für Sicherheitsbewertungen, Beschwerden und einen zuverlässigen Ausstieg umfassen.

Teams sollten außerdem die Grenze zwischen allgemeinem Assistenten und Begleitmodus testen. Kann ein Konto zwischen beiden wechseln, müssen Kontrollen womöglich dem Interaktionsmodus statt dem Marketingnamen der Anwendung folgen. Rechtsberatung und lokale Compliance-Fachleute sollten Umfang und Umsetzung bestätigen; eine Produktcheckliste ist allein keine Rechtsauskunft.

Warum die Regeln über einen Markt hinaus wichtig sind

Die Maßnahme übersetzt Bedenken zu emotionaler KI in konkrete Anforderungen an Oberfläche und Betrieb. Sie verbindet Modellverhalten mit Altersabsicherung, Einwilligung, Nutzungsdesign, menschlicher Eskalation, Daten-Governance und Plattformvertrieb. Das ist eine breitere Compliance-Fläche als reine Inhaltsmoderation.

Sie zeigt globalen Teams zugleich, welche Fragen Regulierer stellen können, wenn KI-Systeme beziehungsähnlicher werden: Wann wird ein Assistent zum Begleiter, welches Design fördert Abhängigkeit, wie reagiert ein Anbieter auf akutes Risiko und können intime Gespräche standardmäßig zu Trainingsdaten werden?

Worauf als Nächstes zu achten ist

Die nächste Phase wird zeigen, wie Behörden kontinuierliche emotionale Interaktion auslegen, welche Nachweise für Alterserkennung und Sicherheitsbewertungen erwartet werden und wie Anbieter bestehende Figuren und benutzerdefinierte Agents umgestalten. Durchsetzung und Produktänderungen werden die praktische Grenze zwischen gewöhnlichen Assistenten und erfassten Begleiter-Erfahrungen weiter klären.

Für Nutzer dürften stärkere KI-Hinweise, geschützte Minderjährigen-Erfahrungen, Zwei-Stunden-Erinnerungen, Einwilligungsoptionen und klarere Ausstiegskontrollen am sichtbarsten sein. Für Anbieter liegt die schwierigere Arbeit hinter der Oberfläche: verlässliche Klassifizierung, auditierbare Datenflüsse, besetzte Eskalation und der Nachweis, dass Sicherheitsmaßnahmen während des gesamten Dienstlebenszyklus funktionieren.