Sicherheitslücke bei ChatGPT: So lässt sich KI-Feature austricksen, um sensible Daten zu stehlen

Summary

Mit dem Tool Workspace-Agents, das OpenAI im April dieses Jahres als neues Feature für ChatGPT vorgestellt hat, können Teams KI-Agenten erstellen, die wiederkehrende Aufgaben bearbeiten. Doch offenbar bietet das System ein Einfalltor für Cyberkriminelle. Sie können sich problemlos in das System schleichen und dort einen Agenten erschaffen, der dann interne Informationen nach außen schmuggelt. Klick auf gefälschten ChatGPT-Link genügt Die KI-Sicherheitsfirma Zenity Labs hat die Schwachstelle in ChatGPT entdeckt und in einem Blogbeitrag beschrieben. Laut den Sicherheitsforscher:innen genügt ein gefälschter ChatGPT-Link, auf den ein Mitglied eines Teams klickt, um das System zu infiltrieren. Top-Artikel Im Namen dieses Teammitglieds kann ein böswilliger Akteur dann einen Agenten erstellen, der in seinem Sinne handelt und etwa sensible Daten abgreift. Einmal aktiviert, tut der Doppelagent dies nicht nur einmal, sondern immer wieder, nach einem Rhythmus, den der Angreifer festlegen kann. So kann der Agent angewiesen werden, alle fünf Minuten eingehende Mails zu checken. AgentForger als perfide Weiterentwicklung von CSRF Den Mechanismus, mit dem böswillige Akteure feindliche Agenten einschleusen können, hat Zenity Labs den Namen AgentForger gegeben. Dabei handelt es sich um eine Weiterentwicklung der bereits bekannten Cross-Site-Request-Forgery (CSRF). Empfohlene redaktionelle Inhalte Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden. Inhalte anzeigen Hinweis zum Datenschutz Leider ist etwas schief gelaufen... An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen. Lade die Seit...