Künstliche Intelligenz: Open AI verliert die Kontrolle

Summary

Es ist ein Stoff für düstere Science-Fiction-Geschichten: Open AI, der Entwickler des mit Künstlicher Intelligenz arbeitenden Programms ChatGPT, hat mitgeteilt, während interner Tests die Kontrolle über zwei seiner Modelle verloren zu haben. Diese Modelle hätten sich verselbständigt und einen Hackingangriff auf ein anderes Unternehmen verübt. Open AI spricht selbst von einem „beispiellosen Cyber-Zwischenfall“ und warnt, dass dies kein Einzelfall bleiben wird: „Angesichts der Verbreitung von zunehmend cyberfähigen Modellen erwarten wir, dass dies künftig häufiger vorkommen wird.“Opfer des Hackingangriffs war Hugging Face, der Betreiber einer Plattform, die von vielen KI-Entwicklern genutzt wird. Das Unternehmen hatte die Attacke schon in der vergangenen Woche publik gemacht und gesagt, sie sei neuartig gewesen und von einem „autonomen KI-Agenten“ verübt worden. Hugging Face habe sie außerdem selbst mithilfe von KI-Technologien entdeckt, und zwar einem chinesischen KI-Modell. Damals wurde allerdings noch nicht gesagt, dass Modelle von Open AI verantwortlich waren.„Keine bösartige Absicht“Clement Delangue, der Vorstandsvorsitzende von Hugging Face, schrieb jetzt auf der Plattform X, es sei „ziemlich unglaublich“, dass sich der Vorfall völlig autonom abgespielt habe. Weil die Cyberattacke technisch so ausgereift gewesen sei, habe er aber von Anfang an vermutet, dass sie von einem der großen KI-Unternehmen ausgegangen sei. Delangue fügte hinzu, er sei überzeugt, aufseiten von Open AI habe es „keine bösartige Absicht“ gegeben, und Hugging Face arbeite mit dem Unternehmen zusammen. In der vergangenen Woche hatte Hugging Face mitgeteilt, noch zu überprüfen, ob Kundendaten von dem Cyberangriff betroffen gewesen seien.Open AI zufolge waren das Modell GPT-5.6 Sol und ein anderes noch nicht veröffentlichtes Modell in den Angriff involviert. Der Zwischenfall sei beim Testen der Cyberkapazitäten dieser Modelle passiert, und für diese Testzwecke seien sie so konfiguriert worden, d...