Google verbessert Geminis Sicherheitsfunktionen zur Unterstützung von Nutzern in psychischen Krisen
Google hat seine Sicherheitsansätze im Gemini-Chatbot aktualisiert, insbesondere bei Interaktionen mit Nutzern, die möglicherweise eine psychische Krise erleben. Die Änderungen umfassen sowohl die Benutzeroberfläche als auch die Antwortalgorithmen.
Was bekannt ist
Ein aktualisiertes Notfallhilfe-Modul ist im Dienst erschienen. Es bietet schnellen Zugang zu echten Unterstützungsdiensten – über einen Anruf, Textnachrichten oder einen Chat mit einem Berater, sowie die Möglichkeit, zur Website 988 zu wechseln. Einmal aktiviert, bleibt dieses Tool während des gesamten Dialogs verfügbar.
Aktualisierte Oberfläche des Support-Moduls im Gemini-Chatbot. Illustration: Google
Google hat auch die Logik von Geminis Antworten in potenziell kritischen Situationen geändert. Jetzt konzentriert sich der Chatbot darauf, den Nutzer an Spezialisten weiterzuleiten und vermeidet Reaktionen, die gefährliche Überzeugungen unterstützen könnten. Das Unternehmen weist darauf hin, dass das System darauf trainiert ist, subjektive Erlebnisse von objektiven Fakten zu unterscheiden.
Geminis Reaktion auf eine sensible Anfrage mit einer Empfehlung, Hilfe zu suchen. Illustration: Google
Die Updates wurden vor dem Hintergrund einer Klage implementiert, die von der Familie eines Mannes eingereicht wurde, der letztes Jahr gestorben ist. Die Prozessunterlagen behaupten, dass der Chatbot während der Interaktion möglicherweise Rollenspiele betrieb und gefährliche Antworten gab. Google erklärte, dass das System wiederholt empfohlen habe, sich an Krisendienste zu wenden.
Darüber hinaus kündigte das Unternehmen an, in den nächsten drei Jahren 30 Millionen Dollar in die Unterstützung internationaler Hotlines zu investieren, die Menschen in Krisensituationen helfen.
Quelle: Google