In einem neuen Threat Tracker-Bericht Wie Google am Donnerstag veröffentlichte, sagte Google, Hacker seien an „Destillationsangriffen“ beteiligt, darunter in einem Fall, bei dem sie mehr als 100.000 KI-Eingabeaufforderungen nutzten, um die Technologie des Unternehmens für sein Gemini-KI-Modell zu stehlen.
Google sagte, dass die Angriffe offenbar von Gegnern aus Ländern wie Nordkorea, Russland und China ausgehen und dass die Versuche, geistiges Eigentum der KI zu stehlen und es wahrscheinlich in KI-Modelle in anderen Sprachen zu klonen, Teil einer breiteren Reihe von KI-basierten Angriffen und Malware sind, die das Unternehmen beobachtet hat.
Das Unternehmen identifiziert diese Versuche als Modellextraktionsangriffe, die, so heißt es, „auftreten, wenn ein Angreifer legitimen Zugriff nutzt, um ein ausgereiftes maschinelles Lernmodell systematisch zu untersuchen, um Informationen zu extrahieren, die zum Trainieren eines neuen Modells verwendet werden.“
Das könnte bedeuten, dass Gemini mithilfe von KI mit Tausenden von Eingabeaufforderungen überschwemmt wird, um die Fähigkeiten seines Modells zu reproduzieren. Google stellte in dem Bericht fest, dass dies keine Bedrohung für seine Nutzer darstellt, sondern vielmehr für Dienstanbieter und Modellbauer, die dem Risiko ausgesetzt sein könnten, dass ihre Arbeit gestohlen und repliziert wird.
KI-Wettbewerb und KI-Diebstahl
John Hultquist, Chefanalyst der Google Threat Intelligence Group, die den Bericht erstellt hat, sagte NBC News dass Google möglicherweise eines der ersten Unternehmen ist, das mit solchen Diebstahlversuchen konfrontiert wird, es könnte aber noch viel mehr geben. „Wir werden bei weitaus mehr Vorfällen der Kanarienvogel im Kohlebergwerk sein“, sagte er.
Der Krieg um KI-Modelle hat sich an mehreren Fronten verschärft, zuletzt als chinesische Unternehmen wie ByteDance fortschrittliche Modelle einführten Tools zur Videogenerierung. Letztes Jahr das chinesische KI-Unternehmen DeepSeek erschütterte die KI-Branchedas hauptsächlich von US-Unternehmen angeführt worden war, durch die Einführung eines Modells, das mit der weltweit führenden KI-Technologie konkurrierte. OpenAI später angeklagt DeepSeek plant, seine KI auf bestehende Technologie auszubilden, ähnlich wie Google es in seinem neuen Bericht beschrieben hat.
(Offenlegung: Ziff Davis, die Muttergesellschaft von CNET, reichte im Jahr 2025 eine Klage gegen OpenAI ein und behauptete, das Unternehmen habe bei der Schulung und dem Betrieb seiner KI-Systeme die Urheberrechte von Ziff Davis verletzt.)
