KI-Fachmann Krüger: „Wir müssen annehmen, dass die KI den Weg ins Internet und den Angriff eigenständig entwickelt hat“

Summary

Herr Professor Krüger, in dieser Woche hat sich etwas ereignet, das die Bundesregierung als Paradigmenwechsel bezeichnet: Eine Künstliche Intelligenz von Open AI hat sich eigenständig Zugang zum Internet verschafft und von dort aus eine Internetplattform angegriffen. Was ist genau passiert?Das Unternehmen Open AI, bekannt für eines der großen KI-Sprachmodelle der Welt, hat mit seinem neuesten und einem noch nicht öffentlich verfügbaren Modell Tests im Bereich der Cybersicherheit durchgeführt. Das machen alle großen Hersteller – sie wollen wissen, wie gut ihre Modelle in diesem Bereich sind. Dafür gibt es standardisierte Tests, in denen das System Aufgaben bekommt, deren Lösung die Tester kennen. Den Modellen wird dabei vorgegaukelt, sie müssten bestimmte Sicherheitslücken aufspüren. Das ist per se nichts Außergewöhnliches.Dieser Fall war durchaus außergewöhnlich.Die Besonderheit war die Testumgebung. Normalerweise laufen solche Tests in einer vollständig abgeschirmten, nicht mit dem Internet verbundenen Umgebung. In diesem Fall gab es jedoch einen sogenannten Proxy-Server – er sollte es ermöglichen, bestimmte Softwarebibliotheken aus dem Firmennetz herunterzuladen. Dieser Proxy wies eine unbekannte Sicherheitslücke auf, die das KI-Modell während der Bearbeitung seiner Aufgabe selbständig entdeckte. Es gelangte zunächst in das Firmennetz von Open AI und von dort weiter ins offene Internet.Wie kommt eine KI darauf, ins Netz zu gehen? Hat sie so etwas wie einen Willen zur Freiheit?Nein, einen Willen in diesem Sinne hat das System natürlich nicht. Es ist vielmehr sehr rational vorgegangen: Wo bekomme ich Informationen her, um meine Aufgabe möglichst effektiv zu lösen? Das Modell überlegte, ob es außerhalb des Firmennetzes Daten geben könnte, die ihm helfen – darunter auch solche, die nicht öffentlich zugänglich sind, um Teile des Tests möglicherweise zu umgehen, indem es dessen eigene Schwachstellen ausnutzt. Das Prinzip ist etwa aus der „Diesel-Affäre“ bekannt: Eine No...