Am Dienstag verabschiedete der Senat einstimmig einen Gesetzentwurf, der es Opfern ermöglichen würde, die Urheber nicht einvernehmlicher, sexuell eindeutiger Deepfakes auf mindestens 150.000 US-Dollar zu verklagen.
Das DEFIANCE-Gesetz wird nun dem Repräsentantenhaus vorgelegt, wo es der Führung in der letzten Sitzung nicht gelungen ist, es zu Wort zu bringen. Aber es gibt neuen Schwung in dieser Angelegenheit, da Befürworter darauf drängen, dass Google und Apple Grok aus den App-Stores verbannen, nachdem der Chatbot die Erstellung nicht einvernehmlicher intimer Bilder ermöglicht hat.
Am 20. Dezember gab Elon Musk, CEO der Social-Media-Plattform X, reichster Mensch der Welt und enger Vertrauter der Trump-Regierung, bekannt, dass der integrierte Chatbot Grok des Unternehmens Bilder aus Benutzereingaben generieren könne.
X-Benutzer erkannten schnell, dass sie es konnten Erstellen Sie explizite Bilder indem er Grok dazu auffordert, Frauen und Mädchen „auszuziehen“. Verschiedene Problemumgehungen haben zu nicht einvernehmlichen, intimen Bildern von echten Menschen geführt überall auf der Plattformeinschließlich Material über sexuellen Missbrauch von Kindern und gefälschte Bilder muslimischer Frauen mit abgenommenem Hijab.
Am 3. Januar wurde der offizielle Bericht des Sicherheitsteams von X hat eine kurze Stellungnahme gepostet Die Plattform entferne illegale Inhalte. „Jeder, der Grok nutzt oder dazu auffordert, illegale Inhalte zu erstellen, muss mit den gleichen Konsequenzen rechnen, als würde er illegale Inhalte hochladen“, heißt es in der Erklärung.
Auf die Frage, ob Änderungen am Chatbot vorgenommen wurden, um die Erstellung nicht einvernehmlicher Bilder zu verhindern, antwortete das Medienteam von xAI auf The 19th, das 2020 gegründet wurde: „Legacy Media Lies.“ xAI, ebenfalls von Musk gegründet, ist der Entwickler von Grok. X, die Social-Media-Plattform, die früher als Twitter bekannt war, antwortete nicht sofort auf per E-Mail gesendete Fragen.
Am oder um den 9. Januar herum hat X offenbar die Bildgenerierungsfunktionen von Grok hinter eine Paywall verschoben. Der Schritt wurde weitgehend von Technologiepolitikexperten und Überlebensbefürwortern kritisiert, die sagen, das Unternehmen profitiere jetzt vom Missbrauch. (The Verge berichtete auch über die Paywall hat nicht verhindert Befreien Sie Benutzer davon, explizite Bilder zu erstellen.)
„Sexueller Missbrauch ist kein Premiumdienst. Es ist ein Verbrechen“, sagte Jenna Sherman, Kampagnenleiterin bei der Interessenvertretung für Geschlechtergerechtigkeit UltraViolet.
Nach der Übernahme des Unternehmens im Jahr 2022 übernahm Musk löste den von Freiwilligen geführten Trust and Safety Council von Twitter auf, befeuerte eine Belästigungskampagne gegen den Kopf des Vertrauens und der Sicherheit und hat die Mannschaft entkernt Verantwortlich für die inhaltliche Moderation.
Senator Dick Durbin, einer der Mitunterstützer der Senatsversion des DEFIANCE Act, zitierte den Grok-Skandal und die glanzlose Reaktion von X, als er das Gesetz am Dienstagmorgen zur Abstimmung vorlegte.
„Selbst nachdem Grok und X, ehemals Twitter, auf diese schrecklichen, gefälschten und schädlichen Bilder aufmerksam gemacht wurden, reagierten sie nicht. Sie nehmen die Bilder nicht aus dem Internet. Sie kommen den Menschen, die Opfer sind, nicht zu Hilfe“, sagte er.
„Deshalb ist diese Gesetzgebung von entscheidender Bedeutung, denn diese besagt, dass sie, wenn sie sich eines derart rücksichtslosen Fehlverhaltens schuldig gemacht haben, dafür verklagt und zivilrechtlich für den Schaden haftbar gemacht werden können.“
Durbin lobte die einstimmige Verabschiedung, da polarisierte Parteien in einer parteiübergreifenden Frage zusammenkamen. Der Gesetzentwurf wird vom Demokraten aus Illinois und Senator Lindsey Graham, einem Republikaner aus South Carolina, gemeinsam unterstützt.
Es sei nicht klar, ob der DEFIANCE Act das Unternehmen X für die Flut nicht einvernehmlicher Bilder zivilrechtlich haftbar machen könnte, sagte Omny Miranda Martone, Gründerin und CEO der gemeinnützigen Sexual Violence Prevention Association, aber es unterstreicht, wie das Problem weiter zunehmen wird.
Der DEFIANCE Act war in der letzten Sitzung des Repräsentantenhauses vorgestellt von den Abgeordneten Alexandra Ocasio-Cortez, einer Demokratin aus New York, und Laurel Lee, einer Republikanerin aus Texas. Ocasio-Cortez hat immer wieder auf das Problem aufmerksam gemacht und ihre Erfahrungen als Ziel von Deepfake-Missbrauch geteilt.
Es ist kein Zufall, dass sich weibliche Gesetzgeber für dieses Thema einsetzen, da sie wahrscheinlich zum Ziel dieser Art digitaler sexueller Gewalt werden. A Bericht 2024 Das American Sunlight Project fand 35.000 Erwähnungen von nicht einvernehmlichen intimen Bildern, die 26 Kongressabgeordnete zeigten. 25 dieser Abgeordneten waren Frauen.
Martone stellte fest, dass die Version des Repräsentantenhauses seit Anfang dieses Jahres sechs Co-Sponsoren gewonnen hat, darunter drei Frauen, die gleichmäßig auf die Parteien verteilt sind.
Letztes Jahr, Der Kongress verabschiedete den Take It Down Actdas sowohl reale als auch computergenerierte, nicht einvernehmliche intime Bilder verbietet. Plattformen müssen bis Mai dieses Jahres ein Verfahren zur Entfernung nicht einvernehmlicher intimer Bilder innerhalb von 48 Stunden einführen.
Der DEFIANCE Act und der Take It Down Act seien immer als doppelte Lösung für das Problem des Deepfake-Missbrauchs gedacht gewesen, sagte Martone. An der Ausarbeitung beider Gesetzentwürfe war der Verein zur Prävention sexueller Gewalt beteiligt.
Der Take It Down Act ermächtige Gerichte und Staatsanwälte, gegen nicht einvernehmliche Bilder vorzugehen und übe außerdem Druck auf Social-Media-Unternehmen und Suchmaschinen aus, schädliche Inhalte zu entfernen, sagte Martone. Das DEFIANCE-Gesetz soll Überlebenden die Möglichkeit geben, zu entscheiden, ob sie die Täter direkt vor Gericht bringen.
„Das Stärkendste, was man Überlebenden tun kann, ist, ihnen Optionen zu geben, und das ist das Ziel des DEFIANCE Act“, sagten sie.
Martones Eintreten gegen digitale sexuelle Gewalt führte dazu, dass Fremde sie mit expliziten Deepfakes angriffen. Der Missbrauch richtete sich speziell gegen Martone und die Organisation als Ganzes. Martone musste sich eine Auszeit von der Arbeit nehmen und Miete und Lebensmittelgeld bezahlen, um Hilfe beim Entfernen der Bilder zu bekommen.
Wenn das DEFIANCE-Gesetz in Kraft tritt, hofft Martone, damit nicht nur den durch emotionalen Schaden verursachten Schaden auszugleichen, sondern auch die sehr greifbaren Kosten für den Umgang mit dieser Art von Missbrauch.
Sowohl der DEFIANCE Act als auch der Take It Down Act wurden eingeführt, nachdem KI-generierte sexuell eindeutige Bilder von Taylor Swift im Januar 2024 auf X viral gingen. Das Unternehmen blockierte Suchanfragen nach ihrem Namen und entfernte die Bilder schließlich. Teilen Sie mit, dass das Posten nicht einvernehmlicher intimer Bilder „strengstens verboten“ ist. und es gibt eine „Null-Toleranz-Politik gegenüber solchen Inhalten“.
404 Media führte die Deepfakes von Swift auf eine Telegram-Gruppe zurück Ausnutzen einer Lücke im Designer-Bildgenerator von Microsoft. Microsoft hat sofort Maßnahmen ergriffen um den Exploit zu beheben.
„Es geht um eine globale, gesellschaftliche Konvergenz in Bezug auf bestimmte Normen, und wir können dies erreichen, insbesondere wenn es Gesetze, Strafverfolgungsbehörden und Technologieplattformen gibt, die zusammenpassen können“, sagte Satya Nadella, CEO von Microsoft sagte in einem Interview mit NBC News.
„Ich denke, wir können viel mehr regieren, als wir uns selbst zutrauen.“
