KI-Hackerangriff: Eine KI klettert aus dem Sandkasten. Wie kann das sein?

Summary

In dieser Woche waren meine Social-Media-Timelines mit zwei Themen gefüllt. Erstens: Wo gibt es IMAX-Kinos, in denen man korrekt Christopher Nolans Film The Odyssey gucken kann? Zweitens: Was ist das für ein seltsames Tier? Es ging um ein Video, in dem ein langarmiger Affen-Waschbär über eine Wiese hoppelte. Logisch: AI-Slop – haha, die KI kann nicht mal einen ordentlichen Waschbären generieren. Stellt sich heraus: Jimothy, so des Waschbären neuer Taufname, gibt es wirklich, er hat nur eine verkürzte Wirbelsäule. Und schon war eine Berühmtheit geboren (Tipp: Googeln Sie mal »jimothy raccoon«). Wie meine Kollegin Rabea Weihser feststellt, zeigt Jimothy aber etwas Größeres: Im neuen KI-gefluteten Internet misstrauen wir intuitiv der Wahrheit. Auch wenn sie niedlich ist. Das müssen Sie wissen: Wie konnte die OpenAI-KI ausbrechen? Noch mehr Aufregung als Jimothy verursachte in dieser Woche OpenAI. Das ChatGPT-Unternehmen berichtete in einem Blogpost, dass bei einem Test eine Kombination mehrerer Modelle – darunter das neue GPT-5.6 Sol sowie ein bisher nicht veröffentlichtes Modell – in die Systeme von Hugging Face, einer Plattform für KI-Entwickler, eingedrungen sein soll. Der aufregende Teil: Die KI habe sich auf eigene Faust für den Angriff entschieden und ihn ausgeführt, sei dafür aus ihrer eigentlich isolierten Umgebung ausgebrochen. OpenAI nennt den Vorfall »beispiellos«. Meine Kollegin Eva Wolfangel analysiert den Fall und kommt zum Ergebnis: Wenn auch nicht bewusst, hat OpenAI diesen Vorfall selbst provoziert. Dazu muss man wissen: Sicherheitstests wie der, bei dem die Modelle hier stiften gingen, laufen üblicherweise in sogenannten Sandboxes, also Sandkästen, in denen Software wie ein Kind zwar spielen, aber nicht wirklich was kaputt machen kann. Will man Software richtig sicher testen, hat sie in der Sandbox keinen Zugang zum Internet – damit das Renn-Bobbycar auch ganz sicher nicht aus dem Sandkasten herauskommt. Bei OpenAI gab es für die KI aber anscheinend d...