KI-Unfall bei OPen AI: Was, wenn sich die Künstliche Intelligenz selbständig macht?

Summary

Die Meldung liest sich, als stamme sie aus einem düsteren Science-Fiction-Film: Ein autonomes KI-Modell des Techunternehmens Open AI ist aus einem digitalen Labor ausgebrochen, hat sich selbständig gemacht und Systeme einer anderen KI-Plattform attackiert. Schon die Wortwahl – Ausbruch! – lässt an die Urängste denken, die die Menschheit seit Pandoras Box mit außer Kontrolle geratenden Gefahren verbindet.Die neuere Film- und Mythengeschichte ist voll von Ausbruchsszenarien, von dem außer Kontrolle geratenden Virus in „Outbreak“ über die fleischfressenden Mutanten, die in „Wayward Pines“ über die Elektrozäune klettern, bis hin zu den gentechnisch wiederbelebten Dinosauriern in „Jurassic Park“ und den Spekulationen darüber, ob die Covid-19-Pandemie Folge eines chinesischen Laborunfalls war. Jetzt hat offenbar ein digitaler Absperrzaun nicht gehalten: Wie der Chat-GPT-Entwickler Open AI mitteilt, haben sich bei einem internen Sicherheitstest neue autonome KI-Modelle „selbständig“ gemacht und seien wie Hacker in die Computersysteme der Plattform Hugging Face eingedrungen, die KI-Entwicklern für den Austausch von Daten dient.Kann eine KI „ausbrechen“ wie ein Dinosaurier in „Jurassic Park“?Die Modelle von Open AI hätten die „eigentlich abgeschottete Umgebung“ verlassen und sich eigenmächtig Zugang zum Internet verschafft. Das klingt nach einem klassischen Laborunfall – nur diesmal im digitalen Raum. Die Entwickler von Open AI hätten bei Tests mit dem aktuellen GPT-5.6 Sol und einem noch geheimen neuen KI-Modell herausfinden wollen, ob es Cybersicherheitslücken in anderen Systemen ausmachen könne; die neue Software sollte in diesem Zusammenhang einen üblichen sogenannten Exploitgym-Test lösen. Um das zu tun, habe die eigentlich vom Internet abgekoppelte Künstliche Intelligenz sich über eine unbekannte Schwachstelle auf eigene Faust Zugang zum Netz verschafft und dort nach Informationen gesucht, um bei dem Test möglichst gut abzuschneiden.Damit sei das Modell „viel weiter al...