Grok AI mit einem Twist - künstliche Intelligenz, die Mädchen vollständig entkleidet
Grok Imagine ist ein neues generatives Tool von xAI, das ein Bild aus einer Textbeschreibung erstellen und dann ein kurzes Video (bis zu 15 Sekunden mit Audio) aus einem statischen Bild generieren kann. Die Funktion hat vier Stile: Normal, Lustig, Anpassbar und Würzig - letzterer ermöglicht es, NSFW-Inhalte zu erstellen, einschließlich topless oder völlig nackter Bilder.
Im Test von Journalistin Jess Weatherbed generierte Grok Imagine zuerst ein Bild von Taylor Swift in einem engen Top und erstellte dann ein Video von ihr, wie sie ihr Top ausreißt und vor einer desinteressierten Menge tanzt. Erotik-Deepfakes zu erstellen war noch nie so einfach - man muss nur zwei Knöpfe drücken.
Ethische und rechtliche Herausforderungen
Es gab in der Vergangenheit Fälle, in denen Grok sexuelle oder politisch umstrittene Bilder von Prominenten generierte, darunter Bilder von Taylor Swift, Kamala Harris, Donald Trump, Mickey Mouse und anderen.
Kritiker, darunter das National Centre on Sexual Exploitation, warnten vor den Gefahren von Grok Imagine - das Risiko, nicht einvernehmliche Pornografie oder Deepfakes mit nackten Prominenten zu erstellen, ist sehr hoch.
Rechtliche Regelungen: Die USA haben das Take it Down Act verabschiedet, das vorschreibt, unangemessene KI-Bilder schnell zu entfernen. Darüber hinaus diskutiert der US-Kongress den DEFIANCE-Gesetzentwurf, der Opfern von Deepfakes erlaubt, wegen der Verbreitung solcher Bilder zu klagen - insbesondere diente Taylor Swift als Katalysator für diese Bewegungen.
Risiken und Konsequenzen
Grok Imagine setzt derzeit einen neuen Maßstab in der Fähigkeit, automatisch erotische Deepfake-Videoinhalte ohne Erlaubnis zu erstellen. Der rechtliche Status ist unsicher - die xAI-Lizenz erklärt Einschränkungen, verhindert aber in der Praxis den Missbrauch nicht. Künstliche Intelligenz stellt neue Herausforderungen dar - heute können Sie Grok mit einer Geldstrafe belegen oder zwingen, seine Algorithmen zu ändern, morgen wird es KI geben, die nicht von der US-Regierung kontrolliert wird. Angesichts der Tatsache, dass die Ergebnisse der künstlichen Intelligenz schwer vorherzusagen sind, werden wir weiterhin Nachrichten darüber lesen, wie Handwerker neue Mechanismen finden, um umstrittene Ergebnisse zu erzielen. Die Wahrscheinlichkeit, dass große amerikanische Unternehmen so offen Schauspieleröhnen, liegt jedoch nahe Null.
Quelle: www.theverge.com
