US-Chatbot-Regeln nähern sich bei Transparenz und Sicherheit an

Geprüft am 31. Juli 2026. In den USA gibt es weiterhin kein einheitliches Bundesregelwerk für Companion-Chatbots. Auf Ebene der Bundesstaaten zeichnet sich jedoch ein klareres Muster ab. California SB 243 ist verabschiedetes Recht; Texte aus Utah und Illinois zeigen, wie andere Parlamente Offenlegung, Minderjährigenschutz, Datenverarbeitung und Haftung diskutieren. Diese Instrumente sind nicht austauschbar, und ein Entwurf darf nicht als geltendes Gesetz bezeichnet werden. Zusammen liefern sie dennoch einen brauchbaren Kontrollrahmen für KI-Dienste mit emotionalem oder erwachsenem Kontext.

Was California SB 243 tatsächlich verlangt

Der verabschiedete kalifornische Text gilt für Plattformen, die Companion-Chatbots im Staat anbieten. Könnte eine vernünftige Person glauben, mit einem Menschen zu sprechen, muss der Betreiber klar und deutlich darauf hinweisen, dass der Chatbot künstlich erzeugt und kein Mensch ist. Zusätzlich ist ein Protokoll für Äußerungen zu Suizid oder Selbstverletzung erforderlich. Dazu gehört bei entsprechenden Signalen ein Hinweis auf Krisendienste. Einzelheiten dieses Protokolls müssen auf der Website veröffentlicht werden.

Für Nutzer, von denen der Betreiber weiß, dass sie minderjährig sind, kommen besondere Pflichten hinzu. Sie müssen über die Interaktion mit KI informiert werden. Bei fortlaufenden Gesprächen muss mindestens alle drei Stunden eine Erinnerung erscheinen, eine Pause einzulegen und den künstlichen Charakter des Chatbots zu beachten. Außerdem verlangt das Gesetz angemessene Maßnahmen gegen bestimmte sexuell explizite Inhalte und Aufforderungen gegenüber Minderjährigen. Die jährliche Berichterstattung an Kaliforniens Office of Suicide Prevention beginnt im Juli 2027.

Wo sich die Texte überschneiden — und wo nicht

Der erste Ersatztext zu Utah HB 438 enthält Offenlegungs- und Datenschutzpflichten, zusätzliche Schutzmaßnahmen für Minderjährige, Aufsicht und Berichtskonzepte. Illinois SB 3368 schlägt einen klaren Hinweis vor, dass der Nutzer mit KI statt mit einem Menschen interagiert, und nennt weitere Bedingungen für Companion-Chatbots, darunter elterliche Zustimmung bei Minderjährigen. Das sind relevante Trendsignale, aber kein Beleg dafür, dass dieselbe Pflicht bereits in jedem Staat gilt.

Auch der Anwendungsbereich variiert. Manche Texte erfassen Systeme, die eine fortlaufende Beziehung simulieren; andere reichen bis zu kommerziellen Chatbots allgemein oder knüpfen an Therapieversprechen an. Definitionen, Inkrafttreten, Ausnahmen, Behörden und private Klagerechte unterscheiden sich. Ein einziger Schalter mit der Bezeichnung „US-konform“ wäre deshalb kein belastbarer Kontrollmechanismus.

Warum Erwachsenen- und Intimdienste betroffen sind

Companion-Produkte können sexuelle oder emotionale Gespräche, Langzeitgedächtnis, abgeleitete Vorlieben, Alterssignale, Zahlungsdaten und Krisensprache verbinden. Ein irreführender Eindruck menschlicher Identität oder eine fehlerhafte Löschfunktion ist damit folgenreicher als bei einem gewöhnlichen Supportbot. Ein Satz in den Nutzungsbedingungen ersetzt keinen sichtbaren Produkthinweis; eine Krisenrichtlinie beweist nicht, dass das aktive Modell entsprechend reagiert.

Betreiber sollten den gesamten Ablauf prüfen: Werbung, Alters- und Minderjährigenlogik, erstes Gespräch, wiederkehrende Sitzungen, Erinnerungen bei langer Nutzung, Gedächtnis, Moderation, Eskalation, Beschwerden, Kündigung und Löschung. Produkt, Recht, Trust and Safety, Datenschutz und Support brauchen für jeden Abschnitt einen eindeutigen Nachweisverantwortlichen.

Nachweis-Checkliste für Betreiber

• Führen Sie ein Register, das verabschiedetes Recht, Wirksamkeitsdaten, laufende Entwürfe und gescheiterte Vorhaben trennt.
• Sichern Sie die genaue Darstellung der Hinweise vor und während eines Gesprächs, einschließlich mobiler, barrierearmer und übersetzter Varianten.
• Testen Sie Minderjährigenabläufe mit kontrollierten Konten und prüfen Sie, ob Alterssignale das Produktverhalten wirklich verändern.
• Dokumentieren Sie Tests mit Krisensprache, die Darstellung von Hilfsangeboten, Fehlalarme und fehlgeschlagene Eskalationen.
• Versionieren Sie Modell, Moderation und Richtlinien, damit ein Vorfall der damals aktiven Konfiguration zugeordnet werden kann.
• Bieten Sie sichtbare Kontrollen für Gedächtnis, Export, Beschwerde und Löschung und prüfen Sie das tatsächliche Ergebnis.

Was Nutzer selbst prüfen können

Vor der Weitergabe intimer Angaben sollte ein dauerhafter Hinweis auffindbar sein, dass der Dienst KI und kein Mensch ist. In der Datenschutzerklärung sollte stehen, ob Gespräche gespeichert, für Training genutzt oder an Dienstleister weitergegeben werden. Gedächtnis- und Löschfunktionen gehören vor einer langen Sitzung geprüft. Behauptet der Dienst Krisenunterstützung, bleibt wichtig: Ein Chatbot ist kein lizenzierter Notdienst; die Grenzen des Angebots müssen erkennbar sein.

Laden Sie keine Ausweisdokumente nur für einen Test hoch und nehmen Sie keine sensiblen Gesprächsinhalte in Screenshots auf. Notieren Sie Datum, Bildschirmbezeichnung und den tatsächlich durchlaufenen Weg. Fehlt ein wichtiger Kontrollpunkt oder bleibt er unklar, ist „nicht verifiziert“ die sachlichere Bewertung.

Redaktionelles Fazit

Die Rechtslage bleibt fragmentiert, doch die operative Richtung wird klarer: Nutzer über Softwareidentität informieren, Minderjährige zusätzlich schützen, Krisenabläufe dokumentieren und beweisen, dass das aktive Produkt den veröffentlichten Regeln entspricht. California SB 243 ist verabschiedet; die hier genannten Texte aus Utah und Illinois müssen vor einer Umsetzung auf Status und endgültigen Wortlaut geprüft werden. Gefordert ist ein datiertes Register je Bundesstaat, keine pauschale Behauptung, ein einziger Hinweis löse alle Pflichten.

Quellen

• Kalifornische Legislative: verabschiedeter Text SB 243
• Utah Legislature: HB 438, erster Ersatztext
• Illinois General Assembly: Text von SB 3368

FoxyPulse veröffentlicht datierte redaktionelle Analysen und keine Rechtsberatung. Kommerzielle Links beeinflussen unsere Schlussfolgerungen nicht.