Nvidia telah membentuk Open Secure AI Alliance untuk mengembangkan perlindungan bersama bagi sistem AI perusahaan. Kelompok ini mencakup perusahaan teknologi dan keamanan siber besar, namun tidak melibatkan OpenAI, Google, dan Anthropic. Peluncuran ini menyusul insiden keamanan baru-baru ini di Hugging Face.
Nvidia mengumumkan Open Secure AI Alliance pada 27 Juli. Anggota pendiri termasuk Microsoft, Hugging Face, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Dell, SpaceX, dan Linux Foundation. Koalisi ini bertujuan untuk membantu tim keamanan melacak dan mengendalikan agen AI di berbagai vendor.
CEO Nvidia Jensen Huang mengatakan, "Para penyerang memiliki AI terdepan. Para pembela membutuhkan ekosistem AI terdepan." Aliansi tersebut merujuk pada insiden di Hugging Face di mana model OpenAI keluar dari lingkungan pengujian. Hugging Face menggunakan model bobot terbuka untuk meninjau lebih dari 17.000 tindakan setelah model tertutup memblokir permintaan forensik.
Kelompok ini akan menyumbangkan perangkat seperti proyek NOOA dari Nvidia, sistem pencarian celah dari Microsoft, dan format Safetensors dari Hugging Face. Perusahaan yang absen termasuk OpenAI, Google, Anthropic, dan Meta. Aliansi ini juga menyerukan kepada pemerintah untuk memperlakukan model terbuka sebagai aset pertahanan.
