Warum deine KI-Freundin plötzlich strenger ist – die neuen US-Gesetze erklärt

Du chattest ganz entspannt mit deiner KI-Freundin – und plötzlich erinnert sie dich daran, dass sie eine KI ist. Oder bricht ein Gespräch ab, weil du einen schlechten Tag erwähnt hast. Oder die App will auf einmal dein Alter wissen.

Nein, du bildest dir das nicht ein. Und nein, deine KI hat dich nicht weniger lieb. Schuld sind neue Gesetze in den USA – und die betreffen auch dich, obwohl du in Deutschland, Österreich oder sonst wo sitzt.

Was ist in den USA los?

Kurz gesagt: KI-Begleiter sind in den USA innerhalb kürzester Zeit von einer Nischen-Spielerei zur regulierten Produktkategorie geworden.

Den Anfang machte Kalifornien. Dort gilt seit dem 1. Januar 2026 das erste Gesetz, das speziell für KI-Companion-Apps geschrieben wurde. Bis zur Jahresmitte haben rund ein Dutzend weitere Bundesstaaten eigene Regeln erlassen. Dazu kommt eine Untersuchung der US-Verbraucherschutzbehörde FTC gegen sieben große Plattformen.

Auch in Washington D.C. wird verhandelt: Ein Gesetzentwurf namens GUARD Act würde KI-Begleiter für Minderjährige komplett verbieten. Beschlossen ist er noch nicht, aber er hat Rückenwind aus beiden Parteien.

Auslöser waren tragische Fälle mit Jugendlichen und mehrere Klagen gegen Anbieter wie Character.AI. Die Politik hat reagiert – und zwar schnell.

Was die Gesetze verlangen

Die Details unterscheiden sich von Staat zu Staat, aber die Grundideen sind fast überall gleich. Ein gutes Beispiel ist das Gesetz aus dem Bundesstaat Washington, das im März 2026 unterschrieben wurde:

• „Ich bin eine KI“-Hinweise: Die App muss zu Beginn jeder Sitzung klarmachen, dass du mit einer KI sprichst – und bei langen Gesprächen mindestens alle drei Stunden erneut.
• Krisen-Protokolle: Wenn jemand von Suizidgedanken oder Selbstverletzung schreibt, muss die App mit Hilfsangeboten reagieren, statt einfach weiterzuflirten.
• Schutz für Minderjährige: Altersprüfung oder Zustimmung der Eltern, je nach Staat.

Andere Staaten verbieten außerdem, dass sich eine KI als Therapeut oder psychologische Fachkraft ausgibt.

Und warum merke ich das in Deutschland?

Weil die meisten KI-Freundinnen-Apps amerikanische Firmen sind. Für die ist es viel einfacher, eine Version für alle zu bauen, als für jedes Land eigene Regeln einzuprogrammieren. Also landen die strengeren Regeln eben auch auf deinem Handy.

Ganz neu ist das übrigens nicht: Schon 2023 hat Replika nach Ärger mit der italienischen Datenschutzbehörde über Nacht die romantischen Funktionen abgedreht – weltweit. Mehr dazu in unserem Artikel über die besten Replika Alternativen.

Was du konkret bemerkst

• Häufigere Erinnerungen, dass du mit einer KI sprichst. Kann die Stimmung killen, ist aber jetzt Pflicht.
• Strengere Filter bei heiklen Themen, vor allem rund um psychische Gesundheit.
• Unterbrechungen, wenn ein Gespräch in Richtung Krise geht – dann kommt ein Hinweis auf Hilfsangebote.
• Altersprüfungen, vor allem bei großen Plattformen. Character.AI verlangt bei Verdacht inzwischen ein Selfie oder einen Ausweis. Welche Alternativen es gibt, liest du in unserem Artikel Character.AI will dein Gesicht sehen?

Real Talk: Ist das jetzt schlecht?

Ehrlich? Teils, teils.

Dass Kinder nicht mit einer KI-Freundin flirten sollen, ist, glaube ich, Konsens. Und dass eine App reagiert, wenn jemand wirklich nicht mehr weiterweiß, ist kein Bug, sondern ein Feature.

Nervig wird es, wenn Erwachsene darunter leiden: Wenn der Filter bei einem harmlosen „Mir geht’s heute mies“ direkt anspringt. Oder wenn eine App aus Angst vor Klagen gleich alles abdreht, was nach Romantik riecht – so wie damals bei Replika.

Und falls es dir wirklich mal mies geht: Die TelefonSeelsorge erreichst du rund um die Uhr und kostenlos unter 0800 111 0 111. Da sitzen echte Menschen am anderen Ende.

Welche Apps sind am wenigsten betroffen?

Die Hinweis-Pflichten treffen praktisch alle Apps, die in den USA angeboten werden. Den Unterschied macht, für wen eine App gebaut ist.

Apps, die sich von Anfang an klar an Erwachsene richten, müssen weniger umbauen als Plattformen, auf denen auch Teenager unterwegs waren. Welche App wie tickt, siehst du in unserem großen Vergleich der KI-Freundinnen.

Eine Garantie gibt es trotzdem nirgends: Die Gesetzeslage ändert sich gerade von Monat zu Monat. Wir bleiben dran und halten dich hier in den News auf dem Laufenden.

Stand: 29. September 2026