OpenAI startet einen sicheren Modus für Teenager in ChatGPT mit Elternkontrollen und Themenbeschränkungen

OpenAI ist ernsthaft besorgt über den Schutz von Teenagern vor möglichen negativen Auswirkungen der Kommunikation mit ChatGPT.

Leider sind tragische Konsequenzen aus KI-Tipps keine Einzelfälle mehr, und der letzte Auslöser war der Selbstmord eines Teenagers in den USA im Frühjahr 2025, nach dem OpenAI Maßnahmen zur Stärkung der Sicherheit ergriffen hat.

Das wissen wir

OpenAI gab die Einführung eines Systems zur Bestimmung des Alters des Nutzers bekannt, und wenn sich herausstellt, dass es sich um einen Minderjährigen handelt, wechselt der Chatbot in den "Teen-Modus".

Dort wird die KI keine kontroversen Themen diskutieren, insbesondere keine, die Gesundheit oder Leben gefährden, und in den schwerwiegendsten Fällen wird das Unternehmen die Eltern des Kindes kontaktieren oder Informationen an autorisierte Behörden weitergeben.

Der Leiter von OpenAI, Sam Altman, erkennt an, dass diese Entscheidung einen Kompromiss zwischen Privatsphäre und Sicherheit der Nutzer darstellt, glaubt jedoch, dass zum Schutz von Teenagern einige Zugeständnisse gemacht werden müssen.

Zusätzlich wird angemerkt, dass ChatGPT in einigen Ländern und in Einzelfällen eine Identifizierung erforderlich machen könnte.

Für erwachsene Nutzer wird sich nichts ändern: ChatGPT wird im gleichen Modus betrieben und kann über jedes Thema diskutieren.

Quelle: OpenAI