In den letzten Jahren hat sich die digitale Landschaft dramatisch verändert. Was einst wie Science-Fiction erschien, wie Videofälschungen, Stimmklonen und Echtzeit-FaceSwaps, ist heute Teil des Alltags.
Das Ausmaß der Manipulation nimmt rasant zu. Die britische Regierung rechnet mit acht Millionen KI-Generierte Deepfakes werden in diesem Jahr geteilt – gegenüber 500.000 im Jahr 2023.
Chefarchitekt und CISO bei Tools for Humanity.
Was einst Hollywood-Budgets und spezialisierte Teams erforderte, liegt heute in den Händen von jedem, der über ein… verfügt Smartphone und eine Internetverbindung.
Wenn wir nicht mehr unterscheiden können, was echt und was gefälscht ist, wie können wir dann das digitale Vertrauen wiederherstellen?
Das Ausmaß der Bedrohung
Die Bedrohung breitet sich auf alle Aspekte der Gesellschaft aus. Betrüger nutzen jetzt gefälschte Promi-Empfehlungen, um durch Investitionspläne Millionen zu stehlen soziale Medien.
Nach Naturkatastrophen setzen Betrüger KI-generierte Video-Bitte ein, bei denen sie die Gesichter von Helfern verwenden. Politische Deepfakes verbreiten sich schnell und zeigen Kandidaten, die Dinge sagen, die sie nie gesagt haben.
Finanzinstitute stehen vor einer besonders großen Herausforderung. Betrug im Zusammenhang mit Deepfakes stieg im Jahr 2023 um 3.000 Prozent, und der durchschnittliche Schaden pro Vorfall erreichte rund 500.000 Dollar.
Hinter diesen Statistiken verbergen sich reale menschliche Folgen. Mitarbeiter werden dazu verleitet, Zahlungen auf betrügerische Konten zu genehmigen. Verbraucher werden durch gefälschte Empfehlungen oder geklonte Stimmen zu Betrügereien verleitet. Besonders gefährdet sind ältere Nutzer, die sich häufig nicht so sicher mit digitalen Medien auskennen.
Warum traditionelle Verteidigungsmaßnahmen nicht ausreichen
Die instinktive Reaktion bestand darin, die Erkennung, Moderation und KYC-Prüfungen (Know Your Customer) auszuweiten. Doch diese Maßnahmen erweisen sich als unzureichend.
Erkennungswerkzeuge befinden sich in einem Wettrüsten mit generativer KI. Eine Moderation im großen Maßstab ist kostspielig und umstritten. Die KYC-Eskalation erhöht die Spannung für Verbraucher, ohne die Schwierigkeit zu lösen, Fälschungen in Echtzeit zu erkennen.
KYC erhöht auch das Risiko, dass benutzeridentifizierende Inhalte (wie Selfies usw.) dokumentieren Bilder) könnten durchgesickert oder gestohlen werden, wodurch die Fähigkeit der KI, sich als echte Menschen auszugeben, beschleunigt wird.
Da KI-generierte Inhalte immer schwerer zu unterscheiden sind, bricht die bloße Idee, die Fälschung zu erkennen, zusammen – nur 34 Prozent der Menschen glauben, dass es leicht ist, KI-Inhalte von benutzergeneriertem Material zu unterscheiden. Dabei handelt es sich nicht nur um ein Betrugsproblem. Es geht um die Zukunft des Vertrauens in digitale Interaktionen und die Glaubwürdigkeit der KI selbst.
Der Beweis der Menschlichkeit als intelligenterer Schutz
Wenn es nicht gelingt, die Fälschung zu erkennen, besteht der intelligentere Ansatz darin, die Echtheit zu beweisen. Beim Beweis der Menschlichkeit muss überprüft werden, ob eine echte Person hinter einer Interaktion steht, ohne dass sensible biometrische Daten gespeichert oder weitergegeben werden Daten.
Die Verwendungsmöglichkeiten sind klar. Banken könnten bei der Kontoeröffnung oder der Autorisierung von Transaktionen den Nachweis menschlicher Schecks vorlegen. Videoplattformen könnten Deepfake-Führungskräfte daran hindern, Kollegen auszutricksen.
Kunde Serviceteams könnten echte Anrufer von KI-gesteuerten Betrügern unterscheiden. Anstatt auf eine Regulierung zu warten, können Unternehmen beim Verbraucherschutz eine Vorreiterrolle übernehmen.
Die Einbettung von Herkunft und Nachweis menschlicher Verifizierung in digitale Systeme zeugt von Verantwortung, Transparenz und Sorgfalt. Es stärkt auch das Vertrauen der Öffentlichkeit, indem es zeigt, dass Technologie zum Schutz und nicht zur Ausbeutung der Menschen eingesetzt werden kann, denen sie dient.
Kosten und Vertrauen: Warum Provenienz Deepfakes schlagen muss
Das finanzielle Argument ist ebenso stark. Vorbeugung ist günstiger als eine Erstattung und schadet dem Verbrauchervertrauen weitaus weniger. Finanzinstitute geben jedes Jahr Milliarden aus, um Betrugsopfer zu entschädigen, während die Aufsichtsbehörden höhere Entschädigungen fordern. Der Aufbau systemischer Schutzmaßnahmen reduziert diese Kosten an der Quelle.
Gleichzeitig schwindet das Vertrauen in digitale Systeme: 67 % der Erwachsenen im Vereinigten Königreich geben an, dass sie dem Internet weniger vertrauen als je zuvor, und fast die Hälfte (49 %) vertraut weniger als der Hälfte dessen, was sie online sehen.
Dieser Rückgang untergräbt den digitalen Handel, verlangsamt die Einführung innovativer Dienste und schürt den Widerstand gegen KI-gestützte Tools, die andernfalls reale Ergebnisse liefern könnten Produktivität Gewinne.
Da digitale Vermögenswerte und Kryptowährungen immer stärker in die Mainstream-Finanzwelt vordringen, wird der Bedarf an einer starken Herkunft noch größer. Ohne Vertrauen darüber, wer Transaktionen durchführt oder ob es sich überhaupt um Menschen handelt, ist die Stabilität gefährdet.
Den richtigen Weg wählen
Wir stehen an einem Scheideweg. Ein Weg führt in jeder Interaktion zu Zweifel und Misstrauen. Das andere führt zu neuem Vertrauen, das auf Schutzmaßnahmen aufbaut, die in den entscheidenden Momenten Menschlichkeit beweisen
Der Beweis der Menschlichkeit sollte als das fehlende Stück Digital betrachtet werden Infrastrukturdie Grundlage, die es Menschen, Unternehmen und Regierungen ermöglicht, im Zeitalter der KI vertrauensvoll zu interagieren. Die Herausforderung besteht nicht darin, die Fälschung zu erkennen, sondern die Echtheit zu beweisen.
Um diese Vision zu erweitern, muss man erkennen, dass Vertrauen nicht nachgerüstet werden kann, nachdem Systeme ausgefallen sind. Es muss konstruktionsbedingt eingebettet sein. Unternehmen, die jetzt handeln, werden nicht nur Betrug und Betriebsrisiken reduzieren, sondern sich auch in einem Markt differenzieren, in dem digitales Vertrauen schnell zu einem Wettbewerbsvorteil wird.
Verbraucher fordern bereits stärkere Zusicherungen, dass die Menschen und Dienstleistungen, mit denen sie interagieren, authentisch sind.
Mit der Verbreitung von Deepfakes wird sich die Herkunft von einer Nische verlagern Sicherheit Merkmal einer universellen Erwartung. Indem wir nachweisbare Menschlichkeit als Teil der zentralen digitalen Architektur berücksichtigen, können wir eine Umgebung schaffen, in der Innovation gedeiht, weil sich Benutzer durch die Technologien, die ihr tägliches Leben prägen, geschützt und nicht ausgesetzt fühlen.
Wir haben die beste Verschlüsselungssoftware vorgestellt.
Dieser Artikel wurde im Rahmen des Expert Insights-Kanals von TechRadarPro erstellt, in dem wir die besten und klügsten Köpfe der heutigen Technologiebranche vorstellen. Die hier geäußerten Ansichten sind die des Autors und nicht unbedingt die von TechRadarPro oder Future plc. Wenn Sie daran interessiert sind, einen Beitrag zu leisten, erfahren Sie hier mehr: https://www.techradar.com/news/submit-your-story-to-techradar-pro
