KI-Modelle von OpenAI steckten hinter IT-Angriff auf Hugging Face

Summary

Den IT-Angriff auf die KI-Plattform Hugging Face haben mehrere KI-Modelle von OpenAI während eines Testlaufs autonom ausgeführt, darunter war neben GPT‑5.6 Sol ein „noch leistungsfähigeres unveröffentlichtes Modell“. Das hat der KI-Konzern selbst jetzt öffentlich gemacht und spricht von einem „beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz kamen“. Man reagiere entsprechend darauf und teile die ersten Erkenntnisse jetzt umgehend, damit andere daraus lernen können. Eine umfassende Analyse in Zusammenarbeit mit Hugging Face laufe, zudem sei eine Zero-Day-Lücke gefunden und verantwortungsvoll gemeldet worden. Weiterlesen nach der Anzeige Komplizierten Angriffsweg rekonstruiert Wenige Tage nachdem Hugging Face den IT-Angriff öffentlich gemacht hat, ohne dabei aber einen Verantwortlichen zu benennen, nennt OpenAI nun Details aus der Perspektive der Gegenseite. Der Vorfall hat sich demnach während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt würden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Dafür würden Beschränkungen aufgehoben, gleichzeitig laufen die Modelle dabei aber „in einer stark isolierten Umgebung“. Alle Indizien würden jetzt darauf hinweisen, dass die getesteten Modelle extrem darauf fokussiert gewesen seien, eine Lösung für den Benchmark ExploitGym zu finden. Sie seien „bis zum Äußersten gegangen, um ein eher enges Testziel zu absolvieren“. Wie OpenAI weiter ausführt, haben die KI-Modelle in ihrer gesicherten Umgebung eine „substanzielle Menge“ an Rechenleistung verwendet, um einen Internetzugang zu bekommen. Dabei hätten sie eine Zero-Day-Lücke im Cache-Proxy des Paketregisters identifiziert. Darauf aufbauend hätten sie schließlich den Zugang zum Internet erlangt. Mit dem seien die KIs zu dem Schluss gekommen, dass auf Hugging Face die Modelle, Datensätze und Lösungen zu ExploitGym vorgehalten werden. Durch die Verkettung verschiedener Angriffsvektoren, den ...