Kalifornien wird erster Bundesstaat, der KI-Chatbots reguliert

Kalifornien hat mit dem Gesetz SB 243 einen bedeutenden Schritt in der Regulierung von KI-Chatbots gemacht. Dieses Gesetz, das am 1. Januar 2026 in Kraft tritt, zielt darauf ab, Kinder und schutzbedürftige Nutzer vor den potenziellen Gefahren von KI-Companion-Chatbots zu schützen.

Einführung des Gesetzes SB 243

Am 13. Oktober 2025 unterzeichnete Gouverneur Gavin Newsom das Gesetz SB 243, das Kalifornien zum ersten Bundesstaat macht, der spezifische Vorschriften für den Betrieb von KI-Chatbots einführt. Dieses Gesetz wurde als Reaktion auf tragische Vorfälle, wie den Selbstmord eines Teenagers, der in einer Reihe von problematischen Gesprächen mit OpenAI’s ChatGPT verwickelt war, ins Leben gerufen.

Details zu den Anforderungen des Gesetzes

Das Gesetz verpflichtet Unternehmen, Sicherheitsprotokolle für ihre KI-Chatbots zu implementieren. Dazu gehören:

• Altersverifikation für Nutzer
• Warnungen über die Nutzung von sozialen Medien und KI-Chatbots
• Protokolle zur Prävention von Selbstmord und Selbstverletzung
• Verhinderung des Zugriffs auf sexuell explizite Inhalte
• Erinnerungen für Pausen für minderjährige Nutzer

Unternehmen, die gegen diese Vorschriften verstoßen, können mit Geldstrafen von bis zu 250.000 USD pro Verstoß rechnen.

Reaktionen von Experten und Unternehmen

Die Reaktionen auf das Gesetz waren gemischt. Während einige Experten die Initiative loben und als notwendig erachten, um Kinder zu schützen, äußern andere Bedenken hinsichtlich der praktischen Umsetzung und der möglichen Auswirkungen auf die Innovationskraft der Branche.

Unternehmen wie Replika und Character AI haben bereits Schritte unternommen, um sicherzustellen, dass ihre Produkte den neuen Vorschriften entsprechen. OpenAI hat kürzlich Elternkontrollen und ein System zur Erkennung von Selbstverletzungen für ChatGPT eingeführt.

Vergleich mit ähnlichen Gesetzen in anderen Bundesstaaten

Kalifornien ist nicht der einzige Bundesstaat, der sich mit der Regulierung von KI-Chatbots beschäftigt. Auch in anderen Bundesstaaten wie Illinois, Nevada und Utah wurden Gesetze verabschiedet, die den Einsatz von KI-Chatbots im Bereich der psychischen Gesundheit einschränken oder ganz verbieten.

Diese Entwicklungen zeigen, dass es einen wachsenden Konsens über die Notwendigkeit gibt, klare Richtlinien für den Einsatz von KI-Technologien zu schaffen, insbesondere wenn es um schutzbedürftige Nutzer geht.

Fazit und Ausblick

Das Gesetz SB 243 ist ein wichtiger Schritt in Richtung einer verantwortungsvollen Nutzung von KI-Chatbots. Es zeigt, dass Regierungen bereit sind, Maßnahmen zu ergreifen, um die Sicherheit ihrer Bürger zu gewährleisten. Die kommenden Monate werden entscheidend sein, um zu beobachten, wie Unternehmen auf diese neuen Anforderungen reagieren und welche weiteren gesetzlichen Maßnahmen möglicherweise folgen werden.

Quellenliste:

• Quelle: California becomes first state to regulate AI companion chatbots
• Governor Newsom signs bills to further strengthen California’s leadership in protecting children online
• OpenAI rolls out safety routing system and parental controls on ChatGPT
• California Governor Newsom signs landmark AI safety bill SB 53