Autonome KI hackt Hugging Face: Weckruf für IT-Sicherheit und Politik

Summary

Autonome KI hackt Hugging Face: Weckruf für IT-Sicherheit und Politik close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. Don’t show this again. Die Realität hat Science Fiction überholt: Ein KI-Modell bricht aus seiner isolierten Testumgebung aus, verschafft sich eigenständig Zugang zum offenen Internet und greift ein fremdes Unternehmensnetzwerk an. Der Vorfall rund um die KI-Schmiede OpenAI, deren Modelle GPT-5.6 Sol und ein weiteres unveröffentlichtes System den Konkurrenten Hugging Face attackierten, schlägt in Fachwelt und Politik hohe Wellen. Weiterlesen nach der Anzeige Was als branchenüblicher Test begann, um die Fähigkeiten der KI beim Aufspüren von Sicherheitslücken zu messen, endete in einem handfesten Cybervorfall. Das KI-System identifizierte eine bislang unbekannte Lücke im Cache-Proxy eines Paketregisters. Anschließend nutzte es gestohlene Zugangsdaten sowie Zero-Day-Exploits, um sein Testziel abzukürzen. OpenAI selbst spricht von einem beispiellosen Cybervorfall. Der Ausbruch aus dem Labor wirft die Frage auf, wie es zu diesem Kontrollverlust kommen konnte und welche Folgen er für die Cybersicherheit hat. Erste Reaktionen aus der Wissenschaft fallen unterschiedlich aus. Paul Röttger vom Oxford Internet Institute sieht vor allem zwei Risiken. So könnten KI-Modelle zu nahezu allen Mitteln greifen, um ein vorgegebenes Ziel zu erreichen. Zudem seien die leistungsfähigsten Systeme inzwischen außerordentlich gut darin, Software-Schwachstellen auszunutzen. Dass beide Entwicklungen nun zusammenkommen, verleihe der Debatte über künftige KI-Fähigkeiten eine neue Dynamik. Zugleich verweist Röttger darauf, dass für den Test die üblichen Schutzmaßnahmen bewusst deaktiviert worden seien. Experten sehen Risiken und Chancen Ähnlich sieht das Jonas Geiping vom Ellis-Institut Tübingen. Nach seiner Einschätzung handelten die Modelle im Rahmen ihrer Anweisungen. Diese seien abe...