Hugging Face: KI-Plattform wurde Opfer eines KI-Angriffs

Summary

close notice This article is also available in English. It was translated with technical assistance and editorially reviewed before publication. Don’t show this again. Die KI-Plattform Hugging Face zum Austausch von Open-Source-KI-Modellen und -Datensätzen wurde Opfer eines IT-Angriffs. Der ging wohl von einer KI aus – und wurde auch mittels KI eingedämmt. Weiterlesen nach der Anzeige Das berichtet Hugging Face in einem Blogbeitrag. Demnach haben die Betreiber in der vergangenen Woche einen Einbruch in Teile der Produktionsinfrastruktur bemerkt und sind dagegen vorgegangen. Er unterschied sich von vorherigen Ereignissen dadurch, dass er vollständig von Künstlicher Intelligenz ausgeführt wurde, von einem autonom agierenden KI-System. Hugging Face gibt an, es großteils mit KI entdeckt und analysiert zu haben. Unbefugte Zugriffe Der Angriff wurde durch unbefugte Zugriffe auf eine begrenzte Zahl interner Daten und auf mehrere Zugangsdaten entdeckt, die von internen Diensten genutzt werden. Die Analyse läuft derzeit noch, ob Partner- oder Kundendaten ebenfalls betroffen sind – die Betreiber versprechen, alle Betroffenen direkt zu kontaktieren. Hugging Face habe keine Hinweise darauf gefunden, dass öffentliche, für Nutzer zugreifbare Modelle, Datensätze oder Spaces manipuliert wurden. Die Software-Lieferkette wie Container-Images und veröffentlichte Pakete seien überprüft und als sauber erkannt worden. Hugging Face erklärt, dass die Angreifer-KI an der Datenverarbeitungs-Pipeline angesetzt und einen bösartigen Datensatz übermittelt hat, der zwei Code-Ausführungspfade in der Datenverarbeitung missbraucht hat. Konkret kamen ein Remote-Code-Datensatz-Loader und eine Template-Injection in einer Datensatz-Konfiguration zum Einsatz. Diese führten eigenen Code in einem Arbeitsprozess aus. Darüber gelangten die Angreifer an Zugriff auf die Nodes und haben dort Cloud- und Cluster-Zugangsdaten abgegriffen. Zudem haben sie sich weiter in mehreren internen Clustern ausgebreitet. Die ...