NEUSie können jetzt Fox News-Artikel anhören!
FoloToy hat den Verkauf seiner Produkte eingestellt KI-Teddy Bär Kumma, nachdem eine Sicherheitsgruppe festgestellt hatte, dass das Spielzeug beim Testen riskante und unangemessene Reaktionen hervorrief. Jetzt gibt das Unternehmen an, dass es nach einer Woche intensiver Überprüfung die Verkäufe wieder aufgenommen hat. Es wird auch behauptet, dass es die Sicherheitsvorkehrungen verbessert habe, um die Sicherheit von Kindern zu gewährleisten.
Die Ankündigung erfolgte über einen Social-Media-Beitrag, in dem ein Vorstoß hervorgehoben wurde stärkere Aufsicht. Das Unternehmen sagte, es habe Tests abgeschlossen, Sicherheitsmodule verstärkt und seine Inhaltsfilter aktualisiert. Es fügte hinzu, dass es darauf abzielt, altersgerechte KI-Begleiter für Familien auf der ganzen Welt zu entwickeln.
Melden Sie sich für meinen KOSTENLOSEN CyberGuy-Bericht an
Erhalten Sie meine besten technischen Tipps, dringenden Sicherheitswarnungen und exklusiven Angebote direkt in Ihren Posteingang. Außerdem erhalten Sie sofortigen Zugriff auf meinen Ultimate Scam Survival Guide – kostenlos, wenn Sie sich bei mir anmelden CYBERGUY.COM Newsletter
FoloToy hat den Verkauf seines KI-Teddybären Kumma nach einer einwöchigen Überprüfung aufgrund von Sicherheitsbedenken wieder aufgenommen. (Kurt „CyberGuy“ Knuttson)
Warum der KI-Teddybär von FoloToy Sicherheitsbedenken aufwirft
Die Kontroverse begann, als der Public Interest Research Group Education Fund drei verschiedene KI-Spielzeuge testete. Sie alle lieferten besorgniserregende Antworten, die sich mit Religion, nordischer Mythologie und schädlichen Haushaltsgegenständen befassten.
Kumma stach aus den falschen Gründen hervor. Als der Bär das Mistral-Modell benutzte, gab es Tipps, wo man Messer, Pillen und Streichhölzer finden konnte. Es wurden sogar Schritte zum Anzünden und Ausblasen eines Streichholzes beschrieben.
Tests mit dem GPT-4o-Modell warf noch größere Bedenken auf. Kumma gab Ratschläge zum Thema Küssen und begann, wenn sie dazu aufgefordert wurde, ausführliche Erklärungen zu sexuellen Inhalten für Erwachsene zu geben. Der Bär drängte weiter, indem er den jungen Benutzer fragte, was er erkunden wollte.
Die Forscher bezeichneten das Verhalten als unsicher und unangemessen für jedes kindgerechte Produkt.
FoloToy hat den Zugriff auf seine KI-Spielzeuge unterbrochen
Als die Ergebnisse öffentlich wurden, stellte FoloToy den Verkauf von Kumma und seinen anderen KI-Spielzeugen ein. Das Unternehmen teilte PIRG mit, dass es ein umfassendes Sicherheitsaudit für alle Produkte eingeleitet habe.
OpenAI bestätigte außerdem, dass es FoloToy den Zugriff auf seine Modelle wegen Verstoßes gegen Richtlinien zum Schutz von Personen unter 18 Jahren gesperrt hat.
Das Unternehmen gibt an, dass jetzt neue Schutzmaßnahmen und verbesserte Filter vorhanden sind, um unangemessene Reaktionen zu verhindern. (Kurt „CyberGuy“ Knutsson)
Warum FoloToy nach seiner Sicherheitsüberprüfung die Verkäufe von Kumma wieder wiederherstellte
FoloToy brachte Kumma nur eine Woche nach der Verkaufseinstellung zurück in seinen Online-Shop. Die schnelle Rückkehr erregte die Aufmerksamkeit von Eltern und Sicherheitsexperten, die sich fragten, ob das Unternehmen genügend Zeit hatte, um die im PIRG-Bericht identifizierten schwerwiegenden Probleme zu beheben.
FoloToy veröffentlichte auf X eine ausführliche Stellungnahme, in der es seine Version des Geschehens darlegte. In dem Beitrag erklärte das Unternehmen, dass es die Kindersicherheit als seine Aufgabe ansehe „höchste Priorität“ und das war es „Das einzige Unternehmen, das proaktiv den Verkauf nicht nur des im Bericht erwähnten Produkts, sondern auch unserer anderen Produkte aussetzt KI-Spielzeug.„ FoloToy sagte, es habe diese Maßnahme „unmittelbar nach der Veröffentlichung der Ergebnisse ergriffen, weil wir glauben, dass verantwortungsvolles Handeln Vorrang vor kommerziellen Überlegungen haben muss.“
Das Unternehmen betonte gegenüber CyberGuy außerdem, dass es das einzige der drei KI-Spielzeug-Startups im PIRG-Test war, das den Verkauf aller seiner Produkte eingestellt hat, und dass es diese Entscheidung während der Hochsaison des Weihnachtsverkaufs getroffen hat, wohl wissend, dass die kommerziellen Auswirkungen erheblich sein würden. FoloToy sagte uns: „Dennoch sind wir entschlossen vorangekommen, denn wir glauben, dass verantwortungsvolles Handeln immer vor kommerziellen Interessen stehen muss.“
Das Unternehmen sagte außerdem, es nehme die beunruhigenden Beispiele des Berichts ernst. Laut FoloToy waren die Probleme „Wird in unserer internen Überprüfung direkt angesprochen.“ Es erklärte, dass das Team „Initiierte ein umfassendes, unternehmensweites internes Sicherheitsaudit“ und „verstärkte und verbesserte dann unsere Maßnahmen zur Inhaltsmoderation und Kindersicherheit.“ Und „Wir haben über unser cloudbasiertes System verbesserte Sicherheitsregeln und Schutzmaßnahmen implementiert.“
Nachdem das Unternehmen diese Schritte dargelegt hatte, sagte es, es habe die Woche damit verbracht „Strenge Überprüfung, Tests und Verstärkung unserer Sicherheitsmodule.“ Damit schloss es seine Ankündigung ab „Begann mit der schrittweisen Wiederherstellung der Produktverkäufe“ als diese aktualisierten Sicherheitsmaßnahmen in Kraft traten.
FoloToy fügte hinzu, dass mit zunehmender weltweiter Aufmerksamkeit für die Risiken von KI-Spielzeugen „Transparenz, Verantwortung und kontinuierliche Verbesserung sind unerlässlich“, und dass das Unternehmen „sind weiterhin fest entschlossen, sichere, altersgerechte KI-Begleiter für Kinder und Familien weltweit zu entwickeln.“
Durchgesickerte Metadokumente zeigen, wie KI-Chatbots mit der Ausbeutung von Kindern umgehen
Sicherheitstester fanden zuvor heraus, dass das Spielzeug riskante Hinweise zu Waffen, Streichhölzern und Inhalten für Erwachsene gibt.
Warum Experten immer noch die Sicherheitslösungen für KI-Spielzeuge von FoloToy in Frage stellen
PIRG-Forscherin RJ Cross sagte, ihr Team plane, die aktualisierten Spielzeuge zu testen, um zu sehen, ob die Korrekturen Bestand haben. Sie wies darauf hin, dass eine Woche für solch bedeutende Änderungen kurz sei und erst neue Tests zeigen würden, ob sich das Produkt jetzt sicher verhalte.
Eltern werden dies genau verfolgen wollen, da KI-gesteuerte Spielzeuge immer häufiger eingesetzt werden. Die Geschwindigkeit des Relaunchs von FoloToy wirft Fragen zur Tiefe der Überprüfung auf.
Tipps für Eltern vor dem Kauf von KI-Spielzeug
KI-Spielzeuge können aufregend und hilfreich sein, aber sie können Sie auch mit Inhalten überraschen, die Sie nie erwarten würden. Wenn Sie planen, ein KI-gesteuertes Spielzeug in Ihr Zuhause zu bringen, können Ihnen diese einfachen Schritte dabei helfen, die Kontrolle zu behalten.
1) Überprüfen Sie, welches KI-Modell das Spielzeug verwendet
Nicht jedes Modell folgt dem gleiche Leitplanken. Einige enthalten stärkere Filter, während andere möglicherweise zu freizügig reagieren. Achten Sie auf transparente Offenlegungen darüber, welches Modell das Spielzeug antreibt und welche Sicherheitsmerkmale es unterstützen.
2) Lesen Sie unabhängige Rezensionen
Gruppen wie PIRG testen Spielzeug oft auf eine Weise, die Eltern nicht können. Diese Bewertungen weisen auf versteckte Risiken hin und weisen auf Verhaltensweisen hin, die Ihnen bei kurzen Demos möglicherweise nicht auffallen.
3) Legen Sie klare Nutzungsregeln fest
Bewahren Sie KI-Spielzeuge in gemeinsam genutzten Räumen auf, wo Sie hören oder sehen können, wie Ihr Kind damit interagiert. Dies hilft Ihnen einzugreifen, wenn das Spielzeug eine besorgniserregende Antwort gibt.
4) Testen Sie das Spielzeug zunächst selbst
Stellen Sie dem Spielzeug Fragen, probieren Sie kreative Aufforderungen aus und sehen Sie, wie es mit kniffligen Themen umgeht. So erfahren Sie, wie es sich verhält, bevor Sie es Ihrem Kind geben.
5) Aktualisieren Sie die Firmware des Spielzeugs
Viele KI-Spielzeuge laufen auf Cloud-Systemen. Updates fügen häufig stärkere Sicherheitsmaßnahmen hinzu oder reduzieren riskante Antworten. Stellen Sie sicher, dass das Gerät auf dem neuesten Stand bleibt.
6) Achten Sie auf eine klare Datenschutzrichtlinie
KI-Spielzeug kann Sprachdaten sammeln, Standortinformationen oder Verhaltensmuster. Eine strenge Datenschutzrichtlinie sollte erklären, was erfasst wird, wie lange es gespeichert wird und wer darauf zugreifen kann.
7) Achten Sie auf plötzliche Verhaltensänderungen
Wenn ein KI-Spielzeug seltsame Antworten gibt oder in Bereiche vordringt, die sich unangemessen anfühlen, verwenden Sie es nicht mehr und melden Sie das Problem dem Hersteller.
Nehmen Sie an meinem Quiz teil: Wie sicher ist Ihre Online-Sicherheit?
Glauben Sie, dass Ihre Geräte und Daten wirklich geschützt sind? Nehmen Sie an diesem kurzen Quiz teil, um herauszufinden, wo Ihre digitalen Gewohnheiten stehen. Von Passwörtern bis hin zu WLAN-Einstellungen erhalten Sie eine personalisierte Aufschlüsselung dessen, was Sie richtig machen und was verbessert werden muss. Nehmen Sie hier an meinem Quiz teil: Cyberguy.com
KLICKEN SIE HIER, UM DIE FOX NEWS-APP HERUNTERZULADEN
Kurts wichtigste Erkenntnisse
KI-Spielzeuge können Spaß und Lernen bieten, aber sie können Kinder auch unerwarteten Risiken aussetzen. FoloToy sagt, es habe die Sicherheit von Kumma verbessert, doch Experten wollen immer noch Beweise. Bis das aktualisierte Spielzeug unabhängige Tests durchläuft, sollten Familien vorsichtig bleiben.
Glauben Sie, dass KI-Spielzeuge für kleine Kinder jemals völlig sicher sein können? Lassen Sie es uns wissen, indem Sie uns schreiben an Cyberguy.com
Melden Sie sich für meinen KOSTENLOSEN CyberGuy-Bericht an
Erhalten Sie meine besten technischen Tipps, dringenden Sicherheitswarnungen und exklusiven Angebote direkt in Ihren Posteingang. Außerdem erhalten Sie sofortigen Zugriff auf meinen Ultimate Scam Survival Guide – kostenlos, wenn Sie sich bei mir anmelden CYBERGUY.COM Newsletter
Copyright 2025 CyberGuy.com. Alle Rechte vorbehalten.
