KI außer Kontrolle: „Wir werden demnächst deutlich massiver von KIs angegriffen ⁠werden“

Summary

Nach dem vorübergehenden Kontrollverlust über zwei seiner KI-Modelle steht der US-Technologiekonzern Open AI heftig in der Kritik. Ein Sprecher des deutschen Digitalministeriums nannte den Vorfall einen „Paradigmenwechsel“. Die Leistungsfähigkeit dieser technischen Systeme nehme rasch zu. Das verändere ‌die Bedrohungslage massiv. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erklärte, neue hochleistungsfähige KI-Modelle hätten eine „neue ‌Zeitrechnung der Cybersicherheit“ eingeläutet. Darauf aber ist die Welt denkbar schlecht vorbereitet.Europa hat zwar KI-Systeme als Hochrisikotechnologie eingestuft und sich strikte Regularien gegeben. Es spielt bei der Entwicklung von KI aber nur in der zweiten Branchenreihe. In der ersten Reihe stehen Amerika und China. Sie liefern sich hier eine Art von Wettrüsten. Daher haben vor allem die Amerikaner sich bislang nur sehr laxe Sicherheitsvorschriften gegeben. So hatte Open AI Anfang der Woche die Verantwortung dafür übernommen, dass zwei seiner KI-Modelle bei internen Tests außer Kontrolle geraten sind.Nicht der einzige VorfallDie Modelle hatten Schwachstellen in den internen Systemen des Konzerns ausgemacht. Die nutzten sie dann als Fluchttore, breiteten sich im Internet aus und agierten dort wie Hacker. Sie griffen unter anderem das KI-Start-up Hugging Face an. Darüber hinaus sollen auch europäische Institutionen betroffen sein. Open-AI-Vorstandschef Sam Altman sprach ⁠von einem „beispiellosen Cybervorfall“. Der Unfall ist nicht der erste und einzige.Im Frühjahr hatte der chinesische IT-Konzern Alibaba die Alarmstufe Rot ausgerufen, nachdem eine hauseigene KI während eines Experiments aus ihrem virtuellen Testkäfig entflohen war und im Internet auf eigene Faust nach finanziellen Mitteln suchte. Zuvor hatte beim US-Internetkonzern Meta ein KI-Agent bei einer technischen Überprüfung virtuelle Panzerschränke mit sensiblen Daten des Unternehmens für den Zugriff eigentlich unbefugter Personen geöffnet. Ende 2025 wa...