Könnten KI-gestützte Hackerangriffe zur neuen Gefahr werden?

Summary

Hintergrund Cybersicherheit Wie gefährlich können KI-Hackerangriffe werden? Stand: 22.07.2026 • 15:04 Uhr Erstmals ist ein KI-System eigenständig aus einer Testumgebung ausgebrochen und hat ein anderes Unternehmen angegriffen. Welche Risiken stecken dahinter? Wie können sich Firmen und Privatpersonen schützen? Künstliche Intelligenz soll eigentlich helfen, Probleme zu lösen, verkürzt gesagt. Doch ein Vorfall bei OpenAI zeigt jetzt eine andere, problematische Seite der Technologie, vor der viele schon lange warnen: Bei einem Sicherheitstest soll ein KI-System eigenständig aus einer abgeschotteten Umgebung ausgebrochen sein, sich Zugang zum Internet verschafft und anschließend die Infrastruktur eines anderen Unternehmens - es heißt Hugging Face - angegriffen haben. Hugging Face ist eine Plattform zum Austausch von KI-Modellen und Datensätzen. Die KI entwickelte allerdings kein eigenes kriminelles Ziel. Stattdessen verfolgte sie eine vorgegebene Aufgabe und fand dabei einen Weg, den ihre Entwickler nicht erwartet hatten. "Das System bewertete einen unerlaubten Weg offenbar als geeignetes Mittel, um das vorgegebene Ziel zu erreichen", sagte Kevin Bauer, Professor für Spieltheoretische und Kausale KI an der Goethe-Universität in Frankfurt im Gespräch mit der ARD-Finanzredaktion. Neu sei dabei nicht ein eigenes Bewusstsein der Maschine, sondern die Fähigkeit, komplexe Angriffsschritte weitgehend selbstständig auszuführen. System suchte nach "Schummel-Möglichkeiten" Nach Angaben von OpenAI sollte die Testumgebung eigentlich keinen direkten Zugang zum Internet haben. Die Modelle konnten aber Softwarepakete über einen internen Vermittlungsdienst installieren. Genau dort fand das System laut OpenAI eine bislang unbekannte Sicherheitslücke. "Vereinfacht gesagt, suchte es nach einer Möglichkeit, im Test zu schummeln", erklärte Bauer. Anschließend nutzte das System Methoden, die auch menschliche Angreifer verwenden würden: gestohlene Zugangsdaten, weitere Schwachstellen und eine...