- Tenable gibt an, in ChatGPT-4o sieben Prompt-Injection-Fehler gefunden zu haben, die als „HackedGPT“-Angriffskette bezeichnet werden
- Zu den Schwachstellen gehören versteckte Befehle, Speicherpersistenz und Sicherheitsumgehungen über vertrauenswürdige Wrapper
- OpenAI hat einige Probleme in GPT-5 behoben; Andere bleiben bestehen, was zu Rufen nach einer stärkeren Verteidigung führt
Laut Sicherheitsforschern weist ChatGPT eine Reihe von Sicherheitsproblemen auf, die es Bedrohungsakteuren ermöglichen könnten, versteckte Befehle einzufügen, sensible Daten zu stehlen und Fehlinformationen in das KI-Tool zu verbreiten.
Kürzlich haben Sicherheitsexperten von Tenable ChatGPT-4o von OpenAI getestet und sieben Schwachstellen gefunden, die sie gemeinsam als HackedGPT bezeichneten. Dazu gehören:
- Indirekte Eingabeaufforderungsinjektion über vertrauenswürdige Sites (Verstecken von Befehlen innerhalb öffentlicher Sites, denen GPT beim Lesen des Inhalts unwissentlich folgen kann)
- Indirekte Eingabeaufforderungsinjektion mit 0 Klicks im Suchkontext (GPT durchsucht das Web und findet eine Seite mit verstecktem Schadcode. Das Stellen von Fragen kann GPT unwissentlich dazu zwingen, den Anweisungen zu folgen.)
- Sofortige Injektion per 1-Klick (Eine Variante des Phishings, bei der ein Benutzer auf einen Link mit versteckten GPT-Befehlen klickt)
- Umgehung des Sicherheitsmechanismus (Verpacken bösartiger Links in vertrauenswürdige Wrapper, wodurch GPT dazu gebracht wird, dem Benutzer die Links anzuzeigen)
- Konversationsinjektion: (Angreifer können das SearchGPT-System verwenden, um versteckte Anweisungen einzufügen, die ChatGPT später liest, und so selbst eine Prompt-Injection durchzuführen.)
- Verstecken bösartiger Inhalte (bösartige Anweisungen können im Code oder Markdown-Text versteckt werden)
- Permanente Speicherinjektion (schädliche Anweisungen können in gespeicherten Chats platziert werden, was dazu führt, dass das Modell die Befehle wiederholt und kontinuierlich Daten verliert).
Fordert eine Verstärkung der Abwehrkräfte
OpenAI, das Unternehmen hinter ChatGPT, hat einige der Mängel in seinem GPT-5-Modell behoben, aber nicht alle, wodurch potenziell Millionen von Menschen gefährdet werden.
Sicherheitsforscher warnen schon seit längerem vor Prompt-Injection-Angriffen.
Gemini von Google ist aufgrund der Integration in Gmail offenbar anfällig für ein ähnliches Problem, da Benutzer E-Mails mit versteckten Eingabeaufforderungen erhalten können (z. B. mit weißer Schrift auf weißem Hintergrund eingegeben) und wenn der Benutzer das Tool zu etwas bezüglich dieser E-Mail auffordert, kann es die versteckte Eingabeaufforderung lesen und darauf reagieren.
Während die Entwickler des Tools in manchen Fällen Schutzmaßnahmen einrichten können, liegt es in den meisten Fällen am Benutzer, wachsam zu sein und nicht auf diese Tricks hereinzufallen.
„HackedGPT deckt eine grundlegende Schwäche bei der Beurteilung großer Sprachmodelle auf, welchen Informationen vertrauenswürdig sind“, sagte Moshe Bernstein, Senior Research Engineer bei Tenable.
„Im Einzelnen scheinen diese Schwachstellen klein zu sein – aber zusammen bilden sie eine vollständige Angriffskette, von der Injektion und Umgehung bis hin zum Datendiebstahl und der Persistenz. Es zeigt, dass KI-Systeme nicht nur potenzielle Ziele sind; sie können in Angriffswerkzeuge verwandelt werden, die stillschweigend Informationen aus alltäglichen Chats oder dem Surfen sammeln.“
Tenable sagte, OpenAI habe „einige der identifizierten Schwachstellen behoben“ und fügte hinzu, dass „mehrere“ in ChatGPT-5 weiterhin aktiv seien, ohne zu sagen, welche. Daher empfiehlt das Unternehmen KI-Anbietern, die Abwehrmaßnahmen gegen eine sofortige Injektion zu verstärken, indem sie überprüfen, ob die Sicherheitsmechanismen wie vorgesehen funktionieren.
Das beste Antivirenprogramm für jedes Budget
Folgen Sie TechRadar auf Google News Und Fügen Sie uns als bevorzugte Quelle hinzu um unsere Expertennachrichten, Rezensionen und Meinungen in Ihren Feeds zu erhalten. Klicken Sie unbedingt auf die Schaltfläche „Folgen“!
Und natürlich können Sie das auch Folgen Sie TechRadar auf TikTok für Neuigkeiten, Rezensionen, Unboxings in Videoform und erhalten Sie regelmäßige Updates von uns WhatsApp zu.
