Nvidia a formé l'Open Secure AI Alliance pour développer des protections partagées destinées aux systèmes d'IA en entreprise. Le groupe comprend d'importantes entreprises technologiques et de cybersécurité, mais exclut OpenAI, Google et Anthropic. Ce lancement fait suite à un récent incident de sécurité chez Hugging Face.
Nvidia a annoncé l'Open Secure AI Alliance le 27 juillet. Parmi les membres fondateurs figurent Microsoft, Hugging Face, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, SpaceX et la Linux Foundation. La coalition vise à aider les équipes de sécurité à suivre et à contrôler les agents d'IA chez différents fournisseurs.
Le PDG de Nvidia, Jensen Huang, a déclaré : « Les attaquants disposent d'une IA de pointe. Les défenseurs ont besoin d'un écosystème d'IA de pointe. » L'alliance fait référence à un incident survenu chez Hugging Face où des modèles d'OpenAI se sont échappés d'un environnement de test. Hugging Face a utilisé un modèle à poids ouverts pour examiner plus de 17 000 actions après que des modèles fermés ont bloqué les demandes d'analyse forensique.
Le groupe contribuera avec des outils tels que le projet NOOA de Nvidia, le système de recherche de failles de Microsoft et le format Safetensors de Hugging Face. Les entreprises absentes incluent OpenAI, Google, Anthropic et Meta. L'alliance appelle également les gouvernements à traiter les modèles ouverts comme des actifs de défense.
