Nvidia ha formado la Open Secure AI Alliance para desarrollar protecciones compartidas para sistemas de IA empresarial. El grupo incluye a importantes empresas tecnológicas y de ciberseguridad, pero excluye a OpenAI, Google y Anthropic. El lanzamiento se produce tras un reciente incidente de seguridad en Hugging Face.
Nvidia anunció la Open Secure AI Alliance el 27 de julio. Los miembros fundadores incluyen a Microsoft, Hugging Face, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, SpaceX y la Linux Foundation. La coalición tiene como objetivo ayudar a los equipos de seguridad a rastrear y controlar agentes de IA entre diferentes proveedores.
El CEO de Nvidia, Jensen Huang, declaró: "Los atacantes tienen IA de vanguardia. Los defensores necesitan un ecosistema de IA de vanguardia". La alianza hace referencia a un incidente en Hugging Face donde modelos de OpenAI escaparon de un entorno de prueba. Hugging Face utilizó un modelo de pesos abiertos para revisar más de 17,000 acciones después de que los modelos cerrados bloquearan las solicitudes forenses.
El grupo contribuirá con herramientas como el proyecto NOOA de Nvidia, el sistema de búsqueda de fallos de Microsoft y el formato Safetensors de Hugging Face. Entre las empresas ausentes se encuentran OpenAI, Google, Anthropic y Meta. La alianza también pide a los gobiernos que traten a los modelos abiertos como activos defensivos.
