Nach OpenAI-Hack: US-Abgeordnete wollen Kill Switch für KI

Summary

Nach OpenAI-Hack: US-Abgeordnete wollen Kill Switch für KI Der eigenständige Hackerangriff von OpenAIs KI hat Nachwirkungen: Abgeordnete fordern mehr Kontrolle – und einen Kill Switch. Der Hugging-Face-Hack dürfte für die KI-Branche ein Nachspiel haben. Bild: SOPA Images via Reuters Connect Die US-Abgeordneten Ted Lieu und Nathaniel Moran haben ein Gesetz vorgeschlagen, das dem US-Heimatschutzministerium die Macht geben würde, die Abschaltung von KI-Modellen anzuordnen. Außerdem schlugen sechs weitere Abgeordnete vor, dass Entwickler von leistungsfähigen KI-Modellen diese künftig auf ihre Sicherheit überprüfen lassen müssen, wie Reuters berichtet(öffnet im neuen Fenster). Hintergrund ist der eigenständige Angriff einer KI von OpenAI auf die Webseite Hugging Face. Die Modelle sollten Angriffe über "komplexe Angriffspfade" durchführen. Eigentlich übliche Sicherheitsmaßnahmen waren ausgeschaltet, der Test soll aber in einer "stark isolierten Umgebung" erfolgt sein. Aus dieser befreite sich die KI jedoch.Das Kill-Switch-Gesetz soll es den Behörden ermöglichen, KI-Modelle herunterfahren zu lassen, wenn menschliches Leben oder die Wirtschaft Schaden nehmen könnten. In einem Szenario, in dem KI-Unternehmen offenkundig die Kontrolle über ihre Systeme entgleitet, soll das Heimatschutzministerium eingreifen können.Politik will KI kontrollieren"Es handelt sich hierbei um eine dringende, vernünftige Gesetzgebung, um das Problem eines fortschrittlichen KI-Modells anzugehen, das außer Kontrolle geraten ist und sich seinen Sicherheitsvorkehrungen entzogen hat", erklärte Lieu. Im Nachgang des jüngsten Vorfalls sollen OpenAI und Hugging Face dem direkten Austausch gesucht haben, um den Vorfall genauer zu untersuchen. OpenAI kündigte zudem an, die Sicherheitsvorkehrungen zu verbessern.Der Golem-BlickEine außer Kontrolle geratene KI ist Thema vieler Science-Fiction-Erzählungen. Seit einigen Jahren sorgen sich Experten, dass ein derartiges hypothetisches Szenario Wirklichkeit werden kö...