Googles neues Modell der künstlichen Intelligenz PaliGemma 2 kann Emotionen erkennen, aber Experten sind besorgt darüber
Google hat ein neues Modell der künstlichen Intelligenz, PaliGemma 2, angekündigt, das Emotionen in Bildern erkennen kann.
Was bekannt ist
Dieses Modell analysiert Fotos und erstellt detaillierte Beschreibungen, einschließlich Handlungen, Emotionen und dem Gesamtkontext der Szene. Experten sind jedoch besorgt über die möglichen Auswirkungen des Einsatzes einer solchen Technologie. Sie sind der Meinung, dass die Erkennung von Emotionen eine Herausforderung darstellt, da Menschen ihre Gefühle je nach kulturellem und persönlichem Kontext unterschiedlich ausdrücken.
Einige Studien zeigen, dass Emotionserkennungssysteme unzuverlässig und voreingenommen sein können. Google behauptet, umfangreiche Tests durchgeführt zu haben, um die demografische Voreingenommenheit in PaliGemma 2 zu bewerten, und hat im Vergleich zu den Branchenstandards ein niedriges Niveau an Toxizität und Profanität festgestellt.
Das Unternehmen gab jedoch nicht die vollständige Liste der verwendeten Benchmarks oder die Art der durchgeführten Tests bekannt. Experten warnen davor, dass der Einsatz solcher Technologien zu Diskriminierung und anderen negativen Folgen führen könnte.
Quelle: techcrunch
