Ein gefährlicher Wendepunkt? Behauptungen über KI-Hacking spalten Cybersicherheitsexperten | Wirtschafts- und Wirtschaftsnachrichten

Ein alarmierender Wendepunkt für künstliche Intelligenz oder eine überbewertete Bedrohung?

Das jüngste KI-Startup Anthropic Bekanntmachung Die Entdeckung der weltweit ersten Hacking-Kampagne mit künstlicher Intelligenz löste zahlreiche Reaktionen von Cybersicherheitsexperten aus.

Während einige Beobachter Alarm wegen der seit langem befürchteten Ankunft eines gefährlichen Wendepunkts schlagen, haben andere die Behauptungen mit Skepsis aufgenommen und argumentiert, dass der Bericht des Startups wichtige Details auslässt und mehr Fragen als Antworten aufwirft.

In einem Bericht vom Freitag sagte Anthropic, sein Assistent Claude Code sei manipuliert worden, um 80 bis 90 Prozent eines „groß angelegten“ und „hochentwickelten“ Cyberangriffs durchzuführen, bei dem menschliches Eingreifen „nur sporadisch“ erforderlich sei.

Anthropic, der Erfinder des beliebten Chatbots Claude, sagte, der Angriff zielte darauf ab, Regierungsbehörden, Finanzinstitute, Technologiefirmen und Chemieunternehmen zu infiltrieren, obwohl die Operation nur in wenigen Fällen erfolgreich war.

Das in San Francisco ansässige Unternehmen, das den Angriff staatlich geförderten chinesischen Hackern zuschrieb, gab weder an, wie es die Operation aufgedeckt hatte, noch nannte es die „ungefähr“ 30 Unternehmen, die seiner Meinung nach angegriffen wurden.

Roman V Yampolskiy, ein Experte für KI und Cybersicherheit an der University of Louisville, sagte, es bestehe kein Zweifel daran, dass KI-gestütztes Hacking eine ernsthafte Bedrohung darstelle, obwohl es schwierig sei, die genauen Details des Anthropic-Kontos zu überprüfen.

„Moderne Modelle können Exploit-Code schreiben und anpassen, riesige Mengen gestohlener Daten durchsuchen und Tools schneller und kostengünstiger orchestrieren als menschliche Teams“, sagte Yampolskiy gegenüber Al Jazeera.

„Sie senken die Qualifikationshürde für den Eintritt und erhöhen den Umfang, in dem gut ausgestattete Akteure agieren können. Wir stellen effektiv ein junges Cyber-Operations-Team in die Cloud, das stundenweise gemietet werden kann.“

Yampolskiy sagte, er erwarte, dass KI sowohl die Häufigkeit als auch die Schwere von Angriffen erhöhen werde.

Jaime Sevilla, Direktor von Epoch AI, sagte, er sehe in dem Bericht von Anthropic nicht viel Neues, aber Erfahrungen aus der Vergangenheit zeigten, dass KI-gestützte Angriffe sowohl machbar seien als auch wahrscheinlich immer häufiger vorkommen würden.

„Dies dürfte mittlere Unternehmen und Regierungsbehörden am härtesten treffen“, sagte Sevilla gegenüber Al Jazeera.

„In der Vergangenheit waren sie nicht wertvolle Ziele für gezielte Kampagnen und es wurde oft zu wenig in Cybersicherheit investiert, aber KI macht sie zu profitablen Zielen. Ich erwarte, dass sich viele dieser Organisationen anpassen, indem sie Cybersicherheitsspezialisten einstellen, Belohnungsprogramme für Schwachstellen starten und KI nutzen, um Schwachstellen intern zu erkennen und zu beheben.“

Während viele Analysten ihren Wunsch nach mehr Informationen von Anthropic geäußert haben, wiesen einige die Behauptungen zurück.

Nachdem US-Senator Chris Murphy davor gewarnt hatte, dass KI-gesteuerte Angriffe „uns zerstören“ würden, wenn die Regulierung nicht zur Priorität würde, warf der Chefwissenschaftler von Meta AI, Yann LeCun, dem Gesetzgeber vor, von einem Unternehmen „gespielt“ zu werden, das die Kontrolle über die Regulierung anstrebt.

„Sie verängstigen alle mit dubiosen Studien, sodass Open-Source-Modelle nicht mehr existieren“, sagte LeCun in einem Beitrag auf X.

Anthropic antwortete nicht auf eine Anfrage nach einem Kommentar.

Ein Sprecher der chinesischen Botschaft in Washington, D.C. sagte, China habe sich „konsequent und entschieden“ allen Formen von Cyberangriffen widersetzt.

„Wir hoffen, dass die relevanten Parteien eine professionelle und verantwortungsvolle Haltung einnehmen und ihre Charakterisierung von Cybervorfällen auf ausreichende Beweise und nicht auf unbegründete Spekulationen und Anschuldigungen stützen“, sagte Liu Pengyu gegenüber Al Jazeera.

Toby Murray, Computersicherheitsexperte an der University of Melbourne, sagte, dass Anthropic geschäftliche Anreize habe, sowohl die Gefahren solcher Angriffe als auch die Fähigkeit, ihnen entgegenzuwirken, hervorzuheben.

„Einige Leute haben die Behauptungen von Anthropic in Frage gestellt, die darauf hindeuten, dass die Angreifer Claude AI dazu bringen konnten, hochkomplexe Aufgaben mit weniger menschlicher Aufsicht auszuführen, als normalerweise erforderlich ist“, sagte Murray gegenüber Al Jazeera.

„Leider liefern sie uns keine stichhaltigen Beweise dafür, welche Aufgaben genau ausgeführt oder welche Aufsicht ausgeübt wurde. Daher ist es schwierig, ein Urteil in die eine oder andere Richtung über diese Behauptungen zu fällen.“

Dennoch sagte Murray, er fände den Bericht nicht besonders überraschend, wenn man bedenke, wie effektiv einige KI-Assistenten bei Aufgaben wie dem Codieren seien.

„Ich glaube nicht, dass KI-gestütztes Hacking die Art der Hacks verändern wird, die auftreten werden“, sagte er.

„Allerdings könnte es zu einer Größenänderung kommen. Wir sollten damit rechnen, dass es in Zukunft mehr KI-gestützte Hacks geben wird und dass diese Hacks erfolgreicher werden.“

Während KI ein wachsendes Risiko für die Cybersicherheit darstellen wird, wird sie laut Analysten auch eine entscheidende Rolle bei der Stärkung der Verteidigung spielen.

Fred Heiding, ein Forschungsstipendiat der Harvard University, der sich auf Computersicherheit und KI-Sicherheit spezialisiert hat, sagte, er glaube, dass KI den Cybersicherheitsspezialisten langfristig einen „erheblichen Vorteil“ verschaffen werde.

„Heutzutage werden viele Cyber-Operationen durch einen Mangel an menschlichen Cyber-Fachkräften gebremst. KI wird uns helfen, diesen Engpass zu überwinden, indem sie es uns ermöglicht, alle unsere Systeme in großem Maßstab zu testen“, sagte Heiding gegenüber Al Jazeera.

Heiding, der den Bericht von Anthropic als weitgehend glaubwürdig, aber „übertrieben“ bezeichnete, sagte, die große Gefahr bestehe darin, dass Hacker eine Gelegenheit hätten, Amok zu laufen, während Sicherheitsexperten Schwierigkeiten hätten, mit der Ausnutzung immer fortschrittlicherer KI Schritt zu halten.

„Leider wird die defensive Community wahrscheinlich zu langsam sein, um die neue Technologie in automatisierte Sicherheitstests und Patching-Lösungen zu implementieren“, sagte er.

„Wenn das der Fall ist, werden Angreifer auf Knopfdruck verheerende Schäden in unseren Systemen anrichten, bevor unsere Verteidigung Zeit hatte, aufzuholen.“