Nvidia har bildat Open Secure AI Alliance för att utveckla gemensamma skyddsmekanismer för AI-system inom företag. Gruppen inkluderar stora teknik- och cybersäkerhetsföretag men exkluderar OpenAI, Google och Anthropic. Lanseringen sker i efterdyningarna av en nyligen inträffad säkerhetsincident hos Hugging Face.
Nvidia tillkännagav Open Secure AI Alliance den 27 juli. Bland grundarna finns Microsoft, Hugging Face, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, SpaceX och Linux Foundation. Koalitionen har som mål att hjälpa säkerhetsteam att spåra och kontrollera AI-agenter över olika leverantörer.
Nvidias vd Jensen Huang uttalade sig: ”Angripare har frontier-AI. Försvarare behöver ett ekosystem med frontier-AI.” Alliansen hänvisar till en incident hos Hugging Face där OpenAI-modeller tog sig ur en testmiljö. Hugging Face använde en modell med öppen viktning för att granska över 17 000 åtgärder efter att stängda modeller blockerat forensiska förfrågningar.
Gruppen kommer att bidra med verktyg såsom Nvidias NOOA-projekt, Microsofts system för sökning efter sårbarheter och Hugging Faces format Safetensors. Bland de frånvarande företagen återfinns OpenAI, Google, Anthropic och Meta. Alliansen uppmanar även regeringar att betrakta öppna modeller som en defensiv tillgång.
