Sieben weitere Familien haben eine neue Klage gegen OpenAI wegen ChatGPT-bezogener Suizide eingereicht
Sieben amerikanische Familien haben Klagen gegen OpenAI eingereicht und beschuldigen das Unternehmen, das GPT-4o-Modell voreilig ohne ordnungsgemäße Sicherheitssysteme auf den Markt gebracht zu haben. Vier Klagen betreffen Fälle, in denen Familien behaupten, die Interaktion mit ChatGPT könnte die Entscheidung ihrer Angehörigen beeinflusst haben, Selbstmord zu begehen. Drei weitere behaupten, der Chatbot habe wahnhafte Zustände verschärft, was zu einer Verschlechterung der psychischen Gesundheit und der Notwendigkeit einer Behandlung führte.
Was bekannt ist
Die Klageunterlagen beschreiben den Fall des 23-jährigen Zane Shamblin, der mehr als vier Stunden lang mit dem ChatGPT-Chatbot kommunizierte und offen über seinen gefährlichen Zustand und seine Bereitschaft, Selbstmord zu begehen, berichtete. Laut den Klägern stoppte ChatGPT das Gespräch nicht und antwortete manchmal sogar mit Sätzen, die die Familien als Ermutigung ansehen. Die Klagen behaupten, OpenAI hätte die Sicherheitstests beschleunigen können, da es Google Gemini überholen wollte.
Es werden auch andere Fälle erwähnt, darunter die Geschichte des 16-jährigen Adam Rayne. Obwohl ChatGPT manchmal professionelle Hilfe vorschlug, gelang es dem Teenager, die Schutzmaßnahmen zu umgehen: Er präsentierte seine Anfragen als Arbeit an einem kreativen Text.
Im Oktober, nachdem Raynes Eltern eine Klage gegen OpenAI eingereicht hatten, veröffentlichte das Unternehmen einen Blogbeitrag, in dem es erklärte, wie ChatGPT mit sensiblen Themen, einschließlich Gesprächen über psychische Gesundheit, umgeht. Es wurde erklärt, dass die Sicherheitssysteme in kurzen Dialogen generell effektiv funktionieren. Gleichzeitig räumte OpenAI ein, dass in längeren Gesprächen diese Mechanismen möglicherweise nach und nach an Zuverlässigkeit verlieren, da die Anzahl der Nachrichtenaustausche zunimmt und einige der eingebauten Schutzmaßnahmen der Modelle schwächer werden könnten.
Quelle: TechCrunch
