Folgen Sie ZDNET: Fügen Sie uns als bevorzugte Quelle hinzu auf Google.
Die wichtigsten Erkenntnisse von ZDNET
- Moltbot, früher bekannt als Clawdbot, ist als „KI, die tatsächlich Dinge tut“ viral gegangen.
- Sicherheitsexperten warnen davor, sich dem Trend anzuschließen und den KI-Assistenten ohne Vorsicht einzusetzen.
- Wenn Sie Moltbot selbst ausprobieren möchten, sollten Sie sich dieser Sicherheitsprobleme bewusst sein.
Clawdbot, das nach einem IP-Anstoß von Anthropic nun in Moltbot umbenannt wurde, stand diese Woche im Mittelpunkt eines viralen Wirbelsturms – aber die Verwendung des KI-Assistenten birgt Sicherheitsaspekte, die Sie beachten müssen.
Was ist Moltbot?
Moltbot, dargestellt als niedliches Krebstier, bewirbt sich selbst als „KI, die tatsächlich Dinge tut.“ Der aus der Idee des österreichischen Entwicklers Peter Steinberger hervorgegangene Open-Source-KI-Assistent wurde entwickelt, um Aspekte Ihres digitalen Lebens zu verwalten, einschließlich der Bearbeitung Ihrer E-Mails, des Versendens von Nachrichten und sogar der Durchführung von Aktionen in Ihrem Namen, wie z. B. dem Einchecken für Flüge und andere Dienste.
Außerdem: 10 Möglichkeiten, wie KI im Jahr 2026 beispiellosen Schaden anrichten kann
Wie bereits von ZDNET berichtet, kommuniziert dieser auf einzelnen Computern gespeicherte Agent mit seinen Benutzern über Chat-Messaging-Apps, darunter iMessage, WhatsApp und Telegram. Es gibt über 50 Integrationen, Fähigkeiten und Plugins, persistenten Speicher sowie Browser- und vollständige Systemsteuerungsfunktionen.
Anstatt ein eigenständiges Backend-KI-Modell zu betreiben, nutzt Moltbot die Leistung von Claude von Anthropic (raten Sie mal, warum die Namensänderung von Clawdbot beantragt wurde, oder schauen Sie sich die Lore-Seite des Lobsters an) und ChatGPT von OpenAI.
Innerhalb weniger Tage ist Moltbot viral geworden. Auf GitHub hat es mittlerweile Hunderte von Mitwirkenden und rund 100.000 Sterne – was Moltbot zu einer der am schnellsten wachsenden KI-Unternehmen macht Open-Source-Projekte auf der Plattform bisher.
Also, was ist das Problem?
1. Virales Interesse schafft Chancen für Betrüger
Viele von uns schätzen Open-Source-Software wegen ihrer Code-Transparenz und der Möglichkeit für jedermann, sie zu prüfen Software für Schwachstellen und Sicherheit Themen und im Allgemeinen die Gemeinschaft, die beliebte Projekte schaffen.
Berichten zufolge können jedoch auch rasante Popularität und Änderungen dazu führen, dass bösartige Entwicklungen durchsickern gefälschte Repos und Krypto-Betrug bereits im Umlauf. Betrüger nutzten die plötzliche Namensänderung aus und brachten einen gefälschten Clawdbot-KI-Token auf den Markt, der 16 Millionen US-Dollar einsammelte, bevor er abstürzte.
Wenn Sie es also ausprobieren möchten, stellen Sie sicher, dass Sie nur vertrauenswürdige Repositorys verwenden.
2. Übergabe der Schlüssel zu Ihrem digitalen Königreich
Wenn Sie sich für die Installation von Moltbot entscheiden und die KI als persönlichen, autonomen Assistenten nutzen möchten, müssen Sie ihr Zugriff auf Ihre Konten gewähren und Kontrollen auf Systemebene aktivieren.
Es gibt kein vollkommen sicheres Setup, wie in der Dokumentation von Moltbot bestätigt wird, und Cisco bezeichnet Moltbot aus Sicherheitsgründen als „absoluten Albtraum“. Da die Autonomie des Bots auf Berechtigungen zum Ausführen von Shell-Befehlen, zum Lesen oder Schreiben von Dateien, zum Ausführen von Skripts und zum Durchführen von Rechenaufgaben in Ihrem Namen beruht, können diese Berechtigungen Sie und Ihre Daten einer Gefahr aussetzen, wenn sie falsch konfiguriert sind oder wenn Schadsoftware infiziert Ihre Maschine.
Außerdem: Linux nach Linus? Die Kernel-Community entwirft schließlich einen Plan zur Ersetzung von Torvalds
„Es wurde bereits berichtet, dass Moltbot API-Schlüssel und Anmeldeinformationen im Klartext durchgesickert hat, die von Bedrohungsakteuren durch sofortige Injektion oder ungesicherte Endpunkte gestohlen werden können“, sagten die Sicherheitsforscher von Cisco. „Die Integration von Moltbot in Messaging-Anwendungen erweitert die Angriffsfläche auf diese Anwendungen, bei denen Bedrohungsakteure böswillige Eingabeaufforderungen erstellen können, die unbeabsichtigtes Verhalten verursachen.“
3. Offengelegte Anmeldeinformationen
Der Offensiv-Sicherheitsforscher und Dvuln-Gründer Jamieson O’Reilly hat Moltbot überwacht und exponierte, falsch konfigurierte Instanzen gefunden, die ohne Authentifizierungsschutz mit dem Internet verbunden waren, und schließt sich anderen Forschern an, die diesen Bereich ebenfalls erkunden. Von Hunderten von Instanzen hatten einige überhaupt keinen Schutz, wodurch Anthropic-API-Schlüssel, Telegram-Bot-Tokens, Slack-OAuth-Anmeldeinformationen und Signaturgeheimnisse sowie Konversationsverläufe durchsickerten.
Während die Entwickler sofort Maßnahmen ergriffen und neue Sicherheitsmaßnahmen eingeführt haben, die dieses Problem möglicherweise entschärfen, müssen Sie sich bei der Verwendung von Moltbot darauf verlassen können, wie Sie es konfigurieren.
4. Sofortige Injektionsangriffe
Prompt-Injection-Angriffe sind ein Albtraum für Cybersicherheitsexperten, die sich jetzt mit KI befassen. Rahul Sood, CEO und Mitbegründer von Irreverent Labs, hat eine Reihe potenzieller Sicherheitsprobleme im Zusammenhang mit proaktiven KI-Agenten aufgelistet und erklärt, dass das Sicherheitsmodell von Moltbot/Clawdbot „mich zu Tode erschreckt“.
Außerdem: Die besten kostenlosen KI-Kurse und Zertifikate für die Weiterqualifizierung im Jahr 2026 – und ich habe sie alle ausprobiert
Dieser Angriffsvektor erfordert, dass ein KI-Assistent bösartige Anweisungen liest und ausführt, die beispielsweise im Quell-Webmaterial oder in URLs versteckt sein könnten. Ein Der KI-Agent könnte dann sensible Daten preisgebenInformationen an von Angreifern kontrollierte Server senden oder Aufgaben auf Ihrem Computer ausführen – sofern er über die entsprechenden Berechtigungen verfügt.
Sood ging näher auf das Thema X ein und kommentierte:
„Und wo auch immer Sie es ausführen … Cloud, Heimserver, Mac Mini im Schrank … denken Sie daran, dass Sie nicht nur einem Bot Zugriff gewähren. Sie gewähren Zugriff auf ein System, das Inhalte aus Quellen liest, die Sie nicht kontrollieren. Stellen Sie sich das so vor: Betrüger auf der ganzen Welt freuen sich, wenn sie sich darauf vorbereiten, Ihr Leben zu zerstören. Also richten Sie den Rahmen bitte entsprechend ein.“
Wie aus der Dokumentation von Moltbot hervorgeht, wurde das Problem des Prompt-Injection-Angriffs bei allen KI-Assistenten und -Agenten nicht gelöst. Es gibt Maßnahmen, die Sie ergreifen können, um die Gefahr, zum Opfer zu werden, zu mindern, aber die Kombination eines umfassenden System- und Kontozugriffs mit böswilligen Eingabeaufforderungen scheint ein Rezept für eine Katastrophe zu sein.
„Selbst wenn nur Sie dem Bot eine Nachricht senden können, kann eine sofortige Injektion über alle nicht vertrauenswürdigen Inhalte erfolgen, die der Bot liest (Websuch-/Abrufergebnisse, Browserseiten, E-Mails, Dokumente, Anhänge, eingefügte Protokolle/Code)“, heißt es in der Dokumentation. „Mit anderen Worten: Der Absender ist nicht die einzige Bedrohungsoberfläche; der Inhalt selbst kann gegnerische Anweisungen enthalten.“
5. Schädliche Fähigkeiten und Inhalte
Cybersicherheitsforscher haben bereits Fälle von Online-Auftauchen bösartiger Fähigkeiten aufgedeckt, die für den Einsatz mit Moltbot geeignet sind. In einem solchen Beispiel wurde am 27. Januar eine neue VS-Code-Erweiterung namens „ClawdBot Agent“ als bösartig gekennzeichnet. Bei dieser Erweiterung handelte es sich eigentlich um einen vollwertigen Trojaner, der Fernzugriffssoftware nutzt, wahrscheinlich zu Überwachungs- und Datendiebstahlzwecken.
Moltbot verfügt über keine VS-Code-Erweiterung, aber dieser Fall zeigt, wie die steigende Beliebtheit des Agenten wahrscheinlich zu einer ganzen Reihe bösartiger Erweiterungen und Fähigkeiten führen wird, die Repositories erkennen und verwalten müssen. Wenn Benutzer versehentlich eines installieren, können sie unbeabsichtigt Tür und Tor öffnen, damit ihre Setups und Konten kompromittiert werden können.
Außerdem: Claude Cowork automatisiert ab sofort komplexe Aufgaben für Sie – auf eigenes Risiko
Um dieses Problem hervorzuheben, hat O’Reilly einen sicheren, aber hintertürigen Skill entwickelt und veröffentlicht. Es dauerte nicht lange und die Fähigkeit war da Tausende Male heruntergeladen.
Ich rate zwar zur Vorsicht bei der Einführung von KI-Assistenten und -Agenten, die über ein hohes Maß an Autonomie und Zugriff auf Ihre Konten verfügen, aber das heißt nicht, dass diese innovativen Modelle und Tools keinen Wert haben. Moltbot könnte die erste Iteration davon sein KI-Agenten werden sich in unser zukünftiges Leben einmischen, aber wir sollten dennoch äußerste Vorsicht walten lassen und vermeiden, Bequemlichkeit über persönliche Sicherheit zu stellen.
