TikTok hat seine umstrittene KI-Remix-Einstellung zurückgezogen, bestätigte das Unternehmen am Donnerstag gegenüber CNET. Dies ist ein radikaler Kurswechsel für ein Unternehmen, das einen langen Weg zurückgelegt hat, um KI in jeden Teil seiner Plattform zu integrieren.
TikTok hatte die Einstellung eingeführt, um einen KI-gestützten Meme-Ersteller zu testen, der von Videos und Clips auf der Plattform inspiriert wurde, teilte das Unternehmen CNET Anfang dieser Woche mit. Die neue KI-Funktion namens Meme-Remixer würde es jedem, der Ihr TikTok-Video sieht, ermöglichen, daraus ein KI-generiertes Bild zu erstellen und dabei das Gesicht oder den Hintergrund zu ändern. Die ausgeblendete Einstellung gewährt Benutzern automatisch die Berechtigung, Ihre geposteten Inhalte mit KI neu zu mischen, es sei denn, Sie haben sie ausdrücklich deaktiviert.
Ersteller, die die Einstellung in der Social-Media-App entdeckt haben beschwerte sich dass ihre Videos automatisch aktiviert werden und dass sie sich Sorgen darüber machen, wie ihre Daten verwendet werden.
Für einige TikToker fühlte es sich wie ein Eingriff in die Privatsphäre und ein weiterer Versuch von Social-Media-Plattformen an, Originalinhalte heimlich zu verändern.
„Es sollte nicht so schwer sein, uns die Möglichkeit zu geben, uns mit einer einzigen Umschaltfunktion abzumelden“, sagte Schöpfer Sean Szolek-Van Valkenburgh in seinem Video. Während Urheber beim Posten auf Plattformen wissentlich einige Rechte an ihren Inhalten abtreten, sollte es eine Option geben, die Ausnutzung dieser Rechte durch KI einzuschränken, sagte er.
TikTok führt bereits seit mehreren Jahren KI-Funktionen in seine Plattform ein. Möglicherweise ist Ihnen das neue durchsichtige Symbol über einem Profilbild aufgefallen, wenn Sie durch Videos wischen – das ist Tako (ausgesprochen „Taco“), der KI-Assistent von TikTok.
Wie andere Social-Media-Plattformen ist auch TikTok mit der Integration von KI auf Gegenreaktionen gestoßen, was die Entwickler in Panik versetzt KI-Schwachsinn übertönt ihren ursprünglichen Inhaltzusammen mit Umwelt, legal Und ethisch Anliegen. Aber das hat Unternehmen wie TikTok nicht davon abgehalten, Snapchat und Meta, die besitzen Instagram und Facebookvom Aufladen in die KI.
Remixbarer Inhalt
Bevor TikTok es herauszog, war die AI-Remix-Einstellung standardmäßig aktiviert. Es gab einen Schalter, den Sie ausschalten konnten, um zu verhindern, dass andere aus Ihren Clips KI-Memes erstellen. Die Einstellung funktionierte ähnlich wie die, mit denen Sie steuern können, ob Personen Ihre Videos duettieren oder zusammenfügen können.
Wenn die Einstellung also nicht ausgeschaltet ist und Sie ein Video von sich selbst in einem neuen Café gepostet haben, könnte ein Kommentator hypothetisch den Meme-Remixer verwenden, um eine benutzerdefinierte Eingabeaufforderung einzugeben und ein KI-Bild zu erstellen, das Ihr Konterfei an einem Strand oder in einem anderen Szenario zeigt. Diese Bilder würden dann in den Kommentaren des Originalvideos geteilt.
Obwohl Sie das AI-Remixing für einzelne Videos deaktivieren konnten, gab es auf Kontoebene keine Möglichkeit, dies zu deaktivieren. TikTok-Benutzer mussten diese Einstellung für jedes Video deaktivieren. Auch das experimentelle Meme-Tool wurde pausiert, da TikTok das Feedback auswertet.
TikTok hatte gesagt, wenn Sie zulassen würden, dass Ihre Videos mit KI neu gemischt werden, würden sie nicht zum Trainieren seiner KI-Modelle verwendet. Laut TikTok hatte das Umschalten keinen Einfluss darauf, wie TikTok Ihre Inhalte nutzte oder mit ihnen interagierte.
Aber angesichts des Black-Box-Charakters der Art und Weise, wie Technologieunternehmen KI entwickeln, gibt es für einzelne Entwickler keine Möglichkeit, dies zu bestätigen.
KI-Inhalte auf TikTok
Im Unternehmen allgemeine KI-RichtlinieDarin heißt es, dass alle von KI bearbeiteten oder vollständig erstellten Inhalte diesen entsprechen müssen Community-Richtlinien.
Die TikTok-Regeln für bearbeitete Medien verbieten ausdrücklich Inhalte, die Benutzer „in die Irre führen“ und glauben machen, dass etwas Falsches echt sei, insbesondere wenn sie „gefälschte maßgebliche Quellen oder Krisenereignisse darstellen oder in bestimmten Kontexten fälschlicherweise Persönlichkeiten des öffentlichen Lebens darstellen“. Dies deutet darauf hin, dass Deepfakes verboten wären. Auch Darstellungen sexuellen Missbrauchs von Kindern sind ausdrücklich verboten.
KI-bearbeitete Inhalte, die auf TikTok geteilt werden, verfügen über ein unsichtbares Wasserzeichen, das dem C2PA-Standard entspricht. Aber bei neueren, leistungsfähigeren KI-Bild- und Videomodellen ist es für die Leute schwer zu sagen, ob etwas real oder KI-generiert ist.
Auch wenn Richtlinien auf dem Papier gut aussehen können, kommt es auf ihre Durchsetzung an. Ein Schöpfer, Georgie, der sich an die Spitze hält Suppenzeitbetonte, dass es für Menschen bereits jetzt einfach sei, virale Videos erneut zu posten oder zu stehlen, und dass das neue KI-Tool es noch einfacher machen würde, Deepfakes bekannter Ersteller ohne deren Zustimmung zu erstellen.
Das kann gefährlich sein, wie wir gesehen haben Grok AI auf X. Ohne entsprechende Vorsichtsmaßnahmen ist es für Social-Media-Nutzer leicht, Fotos und Videos aufzunehmen, die online geteilt werden sie in beleidigende, illegale Inhalte umwandeln.
