Nvidia versammelt Tech-Schwergewichte für neue KI-Allianz

Summary

Nvidia hat die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Die Initiative will Open-Source-Werkzeuge entwickeln, mit denen Unternehmen KI-Agenten sicherer betreiben und ihre Softwaresysteme besser gegen Cyberangriffe schützen können. Weiterlesen nach der Anzeige Zu den 37 Gründungspartnern gehören unter anderem Microsoft, IBM, SpaceXAI, Cisco, Cloudflare, CrowdStrike, Palantir, SAP, Salesforce, Siemens und die Linux Foundation. Nicht vertreten sind führende Entwickler geschlossener KI-Modelle wie Anthropic, OpenAI und Google. Konkret will die Allianz einen offenen Werkzeugkasten zur Absicherung von KI-Agenten entwickeln. Nvidia bringt dafür offene Modelle, Modellgewichte, Daten und Forschung zu den Steuerungssystemen von KI-Agenten ein. Dazu gehört das neue Open-Source-Projekt NOOA, mit dem sich das Verhalten von Agenten leichter testen, nachvollziehen und kontrollieren lassen soll. Weitere Mitglieder steuern unter anderem sichere Formate für Modellgewichte, überprüfbare Agentenidentitäten und Werkzeuge zur automatisierten Schwachstellensuche bei. Nvidia stellt sich hinter offene KI-Modelle Die Initiative ist eine Reaktion auf den Cyberangriff auf Hugging Face, bei dem KI-Agenten mit OpenAI-Modellen während eines internen Tests autonom aus ihrer isolierten Umgebung ausbrachen und sich Zugriff auf die Plattform verschafften. Hugging Face griff zur Analyse und Eindämmung des Angriffs auf ein chinesisches Open-Weight-Modell zurück, weil die Sicherheitsmechanismen führender kommerzieller KI-Modelle die dafür notwendigen Anfragen blockierten. Die KI-Plattform gehört ebenfalls zu den Gründungsmitgliedern der Initiative. In der Ankündigung plädiert Nvidia nachdrücklich für offene KI-Modelle. Gerade in der Cybersicherheit ermöglichten sie es Unternehmen und Behörden, Systeme auf eigener Infrastruktur zu betreiben und an ihre Anforderungen anzupassen. Dadurch könnten Verteidiger sensible Daten unter eigener Kontrolle halten und ihre Abwehr auf Systeme mehrer...