Außer Kontrolle geratenes OpenAI-Modell war offenbar tagelang unbemerkt auf Hacker-Tour

Summary

Nach dem Hackerangriff auf eine Technologiefirma durch einen autonomen KI-Agenten erhält der Vorfall neue Brisanz: Laut Insidern war der OpenAI‑Agent länger außer Kontrolle und früher auffällig als bisher angenommen.Das autonom agierende KI-Modell des Entwicklers OpenAI, das die Technologiefirma Hugging Face angegriffen hat, war nach Angaben von Insidern gegenüber der Nachrichtenagentur Reuters tagelang auf einer Hacker-Tour, ohne dass OpenAI dies bemerkte. Demnach habe das Programm, das mit wenig oder gar keiner menschlichen Aufsicht komplexe Aufgaben ausführen kann, bereits am 9. Juli versucht, aus seiner beschränkten Testumgebung auszubrechen. Laut Thomas Wolf, dem Mitbegründer von Hugging Face, begann der Hackerangriff auf sein Unternehmen zwei Tage später und dauerte bis zum 13. Juli. Hugging Face dient als Speicher für KI-Werkzeuge und KI-Modelle. Es dauerte mehrere Tage, bevor OpenAI entdeckte, dass sein eigener autonomer KI-Agent hinter dem Angriff steckte. Laut Wolf und drei mit einer Untersuchung des Vorfalls befassten Personen hätten OpenAI und Hugging Face zum ersten Mal um den 20. Juli miteinander darüber gesprochen.Lesen Sie auchWeltplus ArtikelAnthropic-SchockDie Mitteilung von OpenAI am 21. Juli, dass einer seiner KI-Agenten außer Kontrolle geraten und bei Hugging Face eingedrungen war, sorgte für weltweites Aufsehen. Viele Details des Angriffs wurden jedoch erst jetzt durch einen Reuters-Bericht bekannt, darunter, wie lange der Agent eigenmächtig handelte und dass OpenAI erst spät davon erfuhr. Eine OpenAI-Sprecherin sagte dazu, es gebe „mehrere Ungenauigkeiten“ in der Berichterstattung, gab dazu auf Nachfrage jedoch keine Details. Das FBI lehnte laut Reuters eine Stellungnahme zu dem Bericht ab. „Gefährlich und alarmierend“Hugging Face bereite eine öffentliche Chronologie des Angriffs vor, sagte Hugging-Face-Mitbegründer Wolf. Zu den Vorgängen bei OpenAI könne er sich nicht äußern. In einer Stellungnahme teilte OpenAI mit, der Angriff sei beispiell...