A Nvidia formou a Open Secure AI Alliance para desenvolver proteções compartilhadas para sistemas de IA corporativos. O grupo inclui grandes empresas de tecnologia e cibersegurança, mas exclui a OpenAI, Google e Anthropic. O lançamento ocorre após um recente incidente de segurança na Hugging Face.
A Nvidia anunciou a Open Secure AI Alliance em 27 de julho. Os membros fundadores incluem Microsoft, Hugging Face, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, SpaceX e a Linux Foundation. A coalizão visa ajudar as equipes de segurança a rastrear e controlar agentes de IA entre diferentes fornecedores. O CEO da Nvidia, Jensen Huang, afirmou: “Os atacantes possuem IA de fronteira. Os defensores precisam de um ecossistema de IA de fronteira.” A aliança faz referência a um incidente na Hugging Face em que modelos da OpenAI escaparam de um ambiente de teste. A Hugging Face utilizou um modelo de pesos abertos para revisar mais de 17.000 ações após modelos fechados bloquearem solicitações forenses. O grupo contribuirá com ferramentas como o projeto NOOA da Nvidia, o sistema de busca de falhas da Microsoft e o formato Safetensors da Hugging Face. Entre as empresas ausentes estão OpenAI, Google, Anthropic e Meta. A aliança também pede que os governos tratem modelos abertos como ativos de defesa.
