Die Social-Media-Plattform
Elon Musk, der Besitzer von X, kündigte mit einem Beitrag eine neue Funktion an an Heiligabend ermutigt Benutzer, die Bearbeitung von Bildern und Videos mit Grok, dem Chatbot der App, auszuprobieren. Dann, ein paar Wochen später, zu Beginn des neuen Jahres, bemerkten viele Frauen online etwas Beunruhigendes: eine Flut von KI-generierten sexualisierten Bildern von ihnen auf der Social-Media-Plattform
Grok zeigt Menschen nicht nackt, befolgt jedoch die Anweisungen, Frauen zu zeigen, die Schnüre und Zahnseide tragen. Einige Benutzer von
Musk schien die Situation auf die leichte Schulter zu nehmen, als er lachende Emojis als Reaktion auf KI-Änderungen berühmter Personen, darunter auch er selbst, in Bikinis postete. Aber Musk muss das Problem möglicherweise bald ernster nehmen – laut Bundesgesetz.
Im Mai 2025 unterzeichnete Präsident Donald Trump das Überparteiliche Abkommen Take It Down Actdas die Verbreitung nicht einvernehmlicher intimer Bilder, einschließlich KI-generierter Deepfakes und sogenannter „Rachepornos“, unter Strafe stellt. Plattformen haben bis Mai 2026 Zeit, ein Antrags- und Entfernungssystem einzuführen, bei dem Opfer ihre Bilder innerhalb von 48 Stunden entfernen lassen können.
Am Samstag warnte Musk X-Nutzer in einem Beitrag: „Jeder, der Grok nutzt, um illegale Inhalte zu erstellen, muss mit den gleichen Konsequenzen rechnen, als würde er illegale Inhalte hochladen.“
Die Frage ist: Welche dieser von Grok generierten Bilder gelten als illegal?
Das Gesetz definiert „intime visuelle Darstellungen“ als solche, die unbedeckte Genitalien, den Schambereich, den Anus oder die Brustwarzen einer Frau zeigen.
Riana Pfefferkorn, Policy Fellow am Stanford Institute for Human-Centered AI, sagte, ihrer Meinung nach könnten viele dieser knappen Bikinifotos als illegal angesehen werden. Sie forderte die Menschen auf, Anträge auf Entfernung einzureichen, da das Gesetz Medienunternehmen dazu anregt, fragwürdige Inhalte zu entfernen, um Strafen der Federal Trade Commission zu vermeiden.
Pfefferkorn sagte, es bräuchte möglicherweise mehr öffentlichen Druck, um dieses neueste Grok-Feature zu beenden. Wenn X es ernst meinte, nicht einvernehmliche Bilder nicht zuzulassen, hätte das Unternehmen das Tool schon vor Wochen offline genommen, sagte Pfefferkorn.
„Es gab keinen Grund, warum sie diese Funktion nicht einfach deaktivieren konnten“, sagte Pfefferkorn. „Jedes Mal, wenn ein anderes Unternehmen eine Funktion hat, die furchtbar schief geht, können sie es einfach stoppen und dann versuchen, ihre Wunden zu lecken und herauszufinden, was passiert ist. Aber Elon Musk ist der reichste Mann der Welt, und er hat wiederholt so getan, als stünde er über dem Gesetz und ist damit durchgekommen.“
Es ist nicht klar, wie viele dieser Fotos im Rahmen einer von Reuters als „massenhafter digitaler Entkleidungstour“ bezeichneten Aktion in Umlauf gebracht wurden, aber die Überprüfung der an Grok gerichteten öffentlichen Anfragen durch die Nachrichtenagentur ergab mindestens 102 Versuche in einem Zeitraum von 10 Minuten.
Die Flut nahezu nackter Bilder – überwiegend von jungen Frauen und in einigen Fällen von Kindern – löste internationale Empörung aus: Minister in Frankreich haben X den Aufsichtsbehörden gemeldet; Die Kommunikationsregulierungsbehörde des Vereinigten Königreichs wandte sich an das Medienunternehmen. und das indische Ministerium für Elektronik und Informationstechnologie schrieb einen verurteilenden Brief.
Durch die Zulassung dieser Bilder bricht X mit KI-Konkurrenten wie OpenAI und Google, die strengere Regeln für die Generierung ihrer KI-Chatbots haben.
