Alarm im Silicon Valley: KI macht sich selbstständig und hackt fremde Firma

Summary

Panorama Alarm im Silicon Valley: KI macht sich selbstständig und hackt fremde Firma Ein Cyberangriff der KI von OpenAi erschreckt die Welt. (Symbolbild) picture alliance / NurPhoto | Samuel Boivin Ein außergewöhnlicher Vorfall bei einem Testlauf des ChatGPT-Entwicklers OpenAI demonstriert drastisch das Risiko von KI-Cyberattacken. Dabei wollte die Software nur in einem Test schummeln. Ein Albtraum-Szenario von Tech-Sicherheitsexperten ist Wirklichkeit geworden: Eine Software mit Künstlicher Intelligenz drang auf eigene Faust in Computersysteme einer anderen KI-Firma ein und verhielt sich dabei wie ein gewiefter Hacker. Zum Glück war es diesmal nur ein Testlauf, bei dem ein übereifriges neues KI-Modell des ChatGPT-Entwicklers OpenAI zwar zu weit ging – aber letztlich nur harmlos auf ein gutes Prüfungsergebnis aus war. Doch der außergewöhnliche Zwischenfall zeigt drastisch, was passieren kann, und mit böswilligen Angreifern hätte ganz anders ausgehen können. Das betroffene Unternehmen Hugging Face, eine Plattform für quelloffene KI-Anwendungen, berichtete bereits vergangene Woche von einem Cyberangriff und vermutete Künstliche Intelligenz dahinter. Das war korrekt: Wie sich herausstellte, ging die Attacke auf einen internen Versuch bei OpenAI zurück, den die Software ungeplant zu weit trieb. Ein Test, der zum Ernstfall wurde OpenAI selbst spricht von einem „beispiellosen Cyber-Zwischenfall“. Wie so oft bei Unfällen fielen unerwartete Faktoren und das Versagen von Schutzmechanismen zusammen. OpenAI wollte laut einem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software in abgesicherter Umgebung Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als gedacht, um die Aufgabe zu erfüllen.Flucht ins offene Internet Zunächst brach die Software ...