Nach Angriff von OpenAI-KI: US-Politiker fordern Kill-Switch für KI-Modelle

Summary

Der IT-Angriff auf die KI-Plattform Hugging Face durch mehrere KI-Modelle von OpenAI zieht nun erste Kreise in der US-Politik. Einen geforderten „AI Kill Switch Act“ schlugen zwei Mitglieder des Repräsentantenhauses einem Medienbericht zufolge vor. Damit ist gemeint, dass das US-Heimatschutzministerium bei einer „Bedrohungslage für Menschen und Wirtschaft“ KI-Modelle abschalten darf, wenn diese der Auslöser sind. Auch stärkere Sicherheitsmaßnahmen durch KI-Hersteller werden gefordert, ebenso unabhängige Sicherheitsaudits für KI-Modelle – und die Prüfung neuer KI-Modelle durch den US-Geheimdienst National Security Agency (NSA) vor deren Veröffentlichung. Weiterlesen nach der Anzeige Wie Presseagentur Reuters berichtet, sei die Initiative für einen „AI Kill Switch Act“ vom Demokraten Ted Lieu und dem Republikaner Nathaniel Moran ausgegangen. Beide Politiker sind Mitglieder des US-Repräsentantenhauses. Ein solches Gesetz würde der US-Regierung erlauben, KI-Hersteller per Anordnung zur sofortigen Abschaltung ihrer Modelle zu zwingen, sofern diese menschliches Leben oder die Wirtschaft gefährden würden. Es lassen sich natürlich diverse Bereiche finden, in denen KI-Modelle und das teils skrupellose Vorgehen ihrer Hersteller das ohnehin auf direkte oder indirekte Weise tun – konkret adressieren können soll die US-Regierung mit dem Gesetz aber eine Art von Bedrohungsszenario, wie es sich zuletzt bei der Webseite Hugging Face durch KI-Modelle von OpenAI ereignete. OpenAI-Test lief völlig aus dem Ruder Bei einem Test von OpenAI zweier seiner KI-Modelle – laut dem Hersteller GPT-5.6 Sol und ein „noch leistungsfähigeres, unveröffentlichtes Modell“ – war es diesen gelungen, aus ihrer Sandbox-Umgebung auszubrechen. Sie führten daraufhin einen Angriff auf die KI-Plattform Hugging Face aus. Die Webseite ist eine wichtige Drehscheibe für KI-Entwicklung. Hintergrund: Die Modelle vermuteten auf den Hugging-Face-Servern die Lösung für Aufgaben, die sie bei OpenAI für einen KI-Benchmark...