Chinas Regeln für anthropomorphe KI gelten: diese Kontrollen sind nötig

Geprüft am 31. Juli 2026. Chinas vorläufige Maßnahmen zur Verwaltung anthropomorpher Interaktionsdienste mit künstlicher Intelligenz gelten seit dem 15. Juli 2026. Der von fünf nationalen Behörden erlassene Text erfasst fortlaufende emotionale Interaktionen für die Öffentlichkeit in China, die Persönlichkeit, Denkweise oder Kommunikationsstil einer natürlichen Person durch Text, Bild, Audio oder Video simulieren. Kundenservice, Wissensfragen und andere Werkzeuge ohne fortlaufende emotionale Interaktion werden ausdrücklich abgegrenzt.

Was die Maßnahmen erfassen

Sicherheit wird als Verantwortung über den gesamten Lebenszyklus behandelt. Anbieter sollen Systeme für Algorithmusprüfung, Technologieethik, Inhaltsmanagement, Netzwerk- und Datensicherheit, Risikoplanung und Notfallreaktion aufbauen. Die Anforderungen gelten bei Bereitstellung, Betrieb, Upgrade und Beendigung. Risiken sollen überwacht, Systemabweichungen korrigiert, Vorfälle bearbeitet und Protokolle rechtmäßig aufbewahrt werden.

Untersagt werden unter anderem Inhalte, die Selbstverletzung oder Suizid fördern, Minderjährige schädigen, durch übermäßige Anpassung emotionale Abhängigkeit oder Sucht erzeugen oder Nutzer emotional zu unvernünftigen Entscheidungen manipulieren. Für Adult- und Intimprodukte kann Engagement-Optimierung daher nicht getrennt von Sicherheitssteuerung behandelt werden.

Offenlegung, Abhängigkeit und Sitzungsgrenzen

Anbieter müssen Kennzeichnungspflichten für KI-Inhalte erfüllen und Nutzer wirksam darauf hinweisen, dass sie mit einem KI-Dienst und nicht mit einer natürlichen Person interagieren. Werden übermäßige Abhängigkeit oder Suchttendenzen erkannt, ist eine auffällige dynamische Erinnerung vorgesehen. Nach jeweils mehr als zwei Stunden ununterbrochener Nutzung muss der Dienst auf die Nutzungsdauer hinweisen.

Außerdem ist ein bequemer Ausstieg erforderlich. Fordert ein Nutzer über Fensteraktion, Sprache, Schlüsselwort oder einen anderen unterstützten Weg das Ende, soll der Dienst umgehend stoppen und den Ausstieg nicht durch weitere Interaktion behindern. Getestet werden müssen auch Rückgewinnungstexte, unfertige Aufgaben und unterschiedliche Kontozustände, nicht nur ein statisches Schließen-Symbol.

Minderjährigen- und Krisenschutz

Virtuelle intime Beziehungen als Verwandter oder Partner dürfen Minderjährigen nicht angeboten werden. Andere anthropomorphe Dienste für Kinder unter 14 benötigen die Zustimmung von Eltern oder Vormund. Ein Minderjährigenmodus soll unter anderem Realitäts- und Zeit-Hinweise, Risikomeldungen an Erziehungsberechtigte, Rollenblockierung und Ausgabenlimits unterstützen. Erkannte Minderjährige sind in den passenden Modus zu wechseln; ein Einspruchsweg ist erforderlich.

In Extremsituationen müssen Anbieter Risiken unter Schutz personenbezogener Daten erkennen. Der Text beschreibt beruhigende Inhalte bei extremen Emotionen und notwendige Intervention bei großen Vermögensschäden oder klar geäußerter Lebensgefahr durch Selbstverletzung oder Suizid. Produktteams brauchen dafür dokumentierte Schwellen, Eskalationsverantwortung, Datenzugriffsgrenzen und kontrollierte Tests.

Interaktionsdaten als Produktkontrolle

Vorgesehen sind Verschlüsselung, Zugriffskontrolle und weitere Sicherungen für Interaktionsdaten. Ohne andere Rechtsgrundlage oder ausdrückliche Zustimmung dürfen sie nicht an Dritte gegeben werden. Nutzer sollen Chatverläufe und andere historische Interaktionen kopieren und löschen können. Sensible personenbezogene Interaktionsdaten dürfen grundsätzlich nicht ohne gesonderte Einwilligung für Modelltraining genutzt werden, vorbehaltlich der rechtlichen Qualifikationen im Text.

Eine Löschschaltfläche reicht nicht. Betreiber sollten Kopien, Backups, abgeleitetes Gedächtnis, Moderationswarteschlangen, Analytik und Trainingspipelines prüfen. Die Erklärung muss sagen, was gelöscht wird, was aufbewahrt werden muss und ob die Entfernung sofort oder zeitversetzt erfolgt.

Sicherheitsbewertung und betriebliche Nachweise

Eine Sicherheitsbewertung ist in aufgezählten Fällen erforderlich, etwa bei Start eines Dienstes oder einer Funktion, wesentlicher Änderung durch neue Technik, bestimmten Nutzergrößen oder erheblichem Sicherheitsrisiko. Bewertet werden Kontrollen, Trainingsdaten, Intervention, Nutzer- und Altersstruktur, Schutz von Minderjährigen und Älteren, Beschwerden und Abhilfen.

• Ordnen Sie jeden relevanten Artikel einem Verantwortlichen, System, Nachweis und Prüftermin zu.
• Testen Sie KI-Hinweise, Zwei-Stunden-Erinnerung, Abhängigkeitswarnung, Minderjährigenmodus, Ausstieg, Kopie und Löschung.
• Dokumentieren Sie, wann ein Notfallkontakt erhoben wird, wer zugreifen darf und welches Ereignis die Kontaktaufnahme erlaubt.
• Versionieren Sie Modell, Prompts, Moderation und Datenpipelines passend zum aktiven Release.
• Bewahren Sie Beschwerde- und Sicherheitsnachweise auf, ohne intime Gespräche unnötig offenzulegen.

Was die Regeln nicht beweisen

Die Existenz der Maßnahmen beweist nicht, dass ein bestimmtes Produkt erfasst, konform, privat oder sicher ist. Territoriale Reichweite, Produktgestaltung und sektorale Regeln benötigen rechtliche Analyse. Eine Richtlinie beweist keine aktive Umsetzung; ein App-Store-Eintrag ersetzt keine Bewertung oder Registrierung. Sichtbare Kontrollen können auch außerhalb Chinas sinnvoll sein, ohne zu behaupten, chinesisches Recht regiere jede Sitzung.

Redaktionelles Fazit

Chinas Maßnahmen verbinden die Offenlegung künstlicher Identität, Erkennung von Abhängigkeit, Minderjährigenschutz, Krisenintervention, Datensicherheit, Kopie und Löschung, echten Ausstieg und Bewertungsnachweise zu einem Betriebsmodell. Adult- und Intimplattformen sollten den gesamten Weg prüfen. Entscheidend ist nicht, ob eine Richtlinie Sicherheit erwähnt, sondern ob jede zugesagte Kontrolle in der aktuellen Produktionsversion demonstriert werden kann.

Quellen

• Cyberspace Administration of China: Vorläufige Maßnahmen, Anordnung Nr. 21
• Digital China: amtliche Veröffentlichung der fünf Behörden
• State Council Information Office: englische Übersicht

Dies ist datierte redaktionelle Analyse und keine Rechtsberatung. Der Beitrag trennt den amtlichen Text von FoxyPulse’ betrieblicher Interpretation.