Elon Musk sieht zu, wie Präsident Donald Trump am 19. November 2025 beim US-Saudi Investment Forum im John F. Kennedy Center for the Performing Arts in Washington spricht.
Brendan Smialowski | AFP | Getty Images
Elon Musk’s xAI sah nachher eine Gegenreaktion der Benutzer künstliche Intelligenz Chatbot Grok generierte als Reaktion auf Benutzeraufforderungen sexualisierte Bilder von Kindern.
Eine Grok-Antwort an einen Benutzer am X erklärte am Freitag, dass das Problem „dringend behoben“ werde und bezeichnete Material über sexuellen Missbrauch von Kindern als „illegal und verboten“.
In den Antworten der Nutzer antwortet der Bot ebenfalls gepostet dass einem Unternehmen straf- oder zivilrechtliche Sanktionen drohen, wenn es diese Art von Inhalten nach einer Warnung wissentlich ermöglicht oder es unterlässt, sie zu verhindern.
Grok-Beiträge sind KI-generierte Nachrichten und stellen keinen Ersatz für offizielle Unternehmensaussagen dar.
Musks xAI, das letztes Jahr Grok gründete und mit X fusionierte, schickte eine automatische Antwort auf eine Bitte um einen Kommentar: „Legacy Media Lies.“
Benutzer von X haben in den letzten Tagen Bedenken geäußert expliziter Inhalt von Minderjährigen, einschließlich Kindern, die minimale Kleidung tragen, die mit dem Grok-Tool generiert werden.
Die Social-Media-Site hat den Fotos eine Schaltfläche „Bild bearbeiten“ hinzugefügt, die es jedem Benutzer ermöglicht, das Bild mithilfe von Textaufforderungen und ohne Zustimmung des ursprünglichen Posters zu ändern.
Ein Beitrag eines technischen Mitarbeiters von xAI Parsa Tadschikisch habe das Problem auch zur Kenntnis genommen.
„Hey! Danke fürs Melden. Das Team prüft eine weitere Verschärfung unserer Schutzmaßnahmen“, schrieb Tajik in einem Beitrag.
Die Verbreitung von Plattformen zur Generierung von KI-Bildern seit der Einführung von ChatGPT im Jahr 2022 hat allgemein Bedenken hinsichtlich der Manipulation von Inhalten und der Online-Sicherheit geweckt. Es hat auch dazu beigetragen, dass immer mehr Plattformen produziert haben Deepfake-Akte von echten Menschen.
David Thiel, ein Vertrauens- und Sicherheitsforscher, der dem inzwischen aufgelösten Stanford Internet Observatory angehörte, sagte gegenüber CNBC, dass verschiedene US-Gesetze die Erstellung und Verbreitung bestimmter expliziter Bilder generell verbieten, darunter solche, die sexuellen Missbrauch von Kindern zeigen, oder nicht einvernehmliche intime Bilder.
Rechtliche Entscheidungen zu KI-generierten Bildern, wie sie von Grok produziert wurden, könnten von spezifischen Details der erstellten und geteilten Inhalte abhängen, sagte er.
In einem von ihm mitverfassten Artikel mit dem Titel „Generative ML and CSAM: Implikationen und Abhilfemaßnahmen“ stellten Stanford-Forscher fest, dass „der Anschein, dass ein Kind missbraucht wurde, für eine Strafverfolgung ausreichte“, und zwar in richtungsweisenden Fällen in den USA.
Während andere Chatbots mit ähnlichen Problemen konfrontiert waren, geriet xAI wiederholt in Schwierigkeiten, weil es missbräuchlich verwendet wurde oder offensichtliche Mängel im Design oder der zugrunde liegenden Technologie von Grok aufwiesen.
„Unternehmen könnten eine Reihe von Maßnahmen ergreifen, um zu verhindern, dass ihre KI-Tools auf diese Weise verwendet werden“, sagte Thiel. „Das Wichtigste in diesem Fall wäre, die Möglichkeit zu entfernen, von Benutzern hochgeladene Bilder zu ändern. Benutzern die Möglichkeit zu geben, hochgeladene Bilder zu ändern, ist ein Rezept für NCII. Nacktmachung war in der Vergangenheit der Hauptanwendungsfall solcher Mechanismen.“
NCII bezieht sich auf nicht einvernehmliche intime Bilder.
Im Mai sah sich X mit einer Gegenreaktion konfrontiert, nachdem Grok unaufgefordert Kommentare zu „weißer Völkermord“ In Südafrika. Zwei Monate später postete Grok antisemitische Kommentare Und lobte Adolf Hitler.
Trotz der Stolpersteine hat xAI weiterhin Partnerschaften und Geschäfte abgeschlossen.
Der Verteidigungsministerium hat Grok letzten Monat zu seiner KI-Agenten-Plattform hinzugefügt, und das Tool ist das Haupt-Chatbot für Prognose-Wettplattformen Polymarket und Kalshi.
