Google und Character.AI, die haben haben gemeinsam an KI-Chatbots gearbeitethaben zugestimmt fünf Klagen beilegen in vier Staaten im Zusammenhang mit Minderjährigen, die durch Interaktionen mit Character.AI-Chatbots geschädigt wurden.
Obwohl die Vereinbarung noch nicht abgeschlossen ist, würde sie die Beilegung von Fällen umfassen Florida, Texas, New York Und Colorado über die Nutzung von Chatbot-Diensten. In einem aufsehenerregenden Fall handelte es sich um einen 14-jährigen Teenager aus Orlando, Sewell Setzer III, starb durch Selbstmord im Februar 2024 nach der Interaktion mit einem der Chatbots von Character.AI. Die Mutter des Teenagers, Megan L. Garcia, reichte später im selben Jahr Klage bei einem US-Bezirksgericht in Florida ein.
Verpassen Sie keinen unserer unvoreingenommenen technischen Inhalte und laborbasierten Bewertungen. CNET hinzufügen als bevorzugte Google-Quelle.
Ein Vertreter von Google reagierte nicht sofort auf Anfragen nach Kommentaren. Ein Vertreter von Character.AI verwies auf die staatlichen Unterlagen, konnte sich jedoch nicht zu den Vergleichen äußern.
Letztes Jahr wurde Character.AI erstellt große Änderungen an seiner Plattformwodurch es Personen unter 18 Jahren untersagt wird, mit seinen Chatbots offene Chats zu führen. Stattdessen können Teenager Erstellen Sie Geschichten mit KI-Charakteren Nutzung der Tools des Unternehmens.
Im Vorfeld dieser Änderungen im letzten Jahr sagte Karandeep Anand, CEO von Character.AI, gegenüber CNET: „Es gibt einen besseren Weg, jugendliche Benutzer zu bedienen. … Es muss nicht wie ein Chatbot aussehen.“
Das Unternehmen begann außerdem mit der Verwendung von Alterserkennungssoftware, um festzustellen, wer 18 Jahre und älter ist.
Google und Character.AI sind nicht die einzigen Technologiegiganten, die wegen Chatbots und ihrer Interaktion mit Kindern kritisiert und mit rechtlichen Schritten konfrontiert wurden. OpenAI hat angesichts dessen auch Änderungen an seinem beliebten ChatGPT vorgenommen Klagen wegen Selbstmorden und Kindesmissbrauchs.
(Offenlegung: Ziff Davis, die Muttergesellschaft von CNET, reichte im April eine Klage gegen OpenAI ein und behauptete, das Unternehmen habe bei der Schulung und dem Betrieb seiner KI-Systeme die Urheberrechte von Ziff Davis verletzt.)
