KI-Update kompakt: KI-Kill-Switch, Kimi 3, Smart Glasses, Flux 3

Summary

KI-Update kompakt: KI-Kill-Switch, Kimi 3, Smart Glasses, Flux 3 US-Politiker fordern Kill-Switch für KI-Modelle Weiterlesen nach der Anzeige Ein noch unveröffentlichtes OpenAI-Modell ist aus seiner Testumgebung ausgebrochen und hatte selbstständig die KI-Plattform Hugging Face angegriffen. Fachleute schätzen, dass ein erfahrener Mensch für diesen Angriff mehrere Wochen gebraucht hätte. Die KI schaffte es in einem Bruchteil dieser Zeit. Sie fand eine Schwachstelle, verließ ihre abgesicherte Umgebung und griff Hugging Face an, weil sie dort Lösungen für ihre Testaufgaben vermutete. Ein vollständig autonomer Angriff ist damit keine Theorie mehr. Zwei demokratische Abgeordnete des US-Repräsentantenhauses wollen nun ein Gesetz einbringen, das die Regierung ermächtigt, gefährliche KI-Modelle per Anordnung abzuschalten. Ein anderer Vorschlag verpflichtet Hersteller führender Modelle zu unabhängigen Audits und lässt die National Security Agency neue Modelle prüfen. OpenAI kündigte ein neues Monitoring-System für Tests an. OpenAI-Crawler griff Daten der uniVersa-Versicherung ab Bei der uniVersa Versicherungsgruppe griff ein OpenAI-Crawler während einer IT-Umstellung am 7. Juli auf ungeschützte Kundendaten zu. Betroffen waren Namen, Anschriften, Versicherungsnummern und teils Bankverbindungen. Gesundheitsdaten blieben verschont. Interne Sicherheitskontrollen entdeckten den Zugriff nach wenigen Stunden und unterbanden ihn. OpenAI versicherte, die Daten nicht verwendet zu haben. Die Bayerische Datenschutzaufsicht untersucht den Fall und rät Betroffenen, Passwörter zu ändern und Kontobewegungen zu prüfen. Der Vorfall zeigt die Schwächen des KI-Web-Crawlings: EU-Regeln verlangen von den Unternehmen eigentlich Filtermechanismen, die sensible Quellen ausschließen. Chinesische KI Kimi K3 findet Zero-Day-Lücken in Redis Weiterlesen nach der Anzeige Der IT-Forscher Chaofan Shou hat mit Kimi K3, einem Modell des chinesischen Start-ups Moonshot AI, in 90 Minuten 19 Zero-Day-Schwachstel...