OpenAI: Ausgebrochenes KI-Modell ging tagelang unbemerkt auf Hacker-Tour

Summary

Klar sei indes aus Sicht von Cybersicherheitsexperten, dass der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen aufwerfe. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.«Offen bleibt, wie die OpenAI-Mitarbeiter die Hinweise auf den Ausbruch erkannten und was sie veranlasste, die Protokolle zu durchsuchen. Das ‌Unternehmen führe oft mehrere verschiedene Modellbewertungen gleichzeitig aus, zitiert Reuters Personen, die mit den Trainingsmethoden vertraut sind. Diese arbeiteten ​alle mit hoher Geschwindigkeit und erzeugten so enorme Datenmengen, dass die Mitarbeiter manchmal Schwierigkeiten hätten, damit Schritt zu halten.