شكلت شركة إنفيديا "تحالف الذكاء الاصطناعي الآمن المفتوح" لتطوير حماية مشتركة لأنظمة الذكاء الاصطناعي في المؤسسات. وتضم المجموعة شركات كبرى في مجالي التكنولوجيا والأمن السيبراني، لكنها تستثني شركات OpenAI وجوجل وأنثروبيك. يأتي هذا الإطلاق في أعقاب حادثة أمنية وقعت مؤخراً في منصة Hugging Face.
أعلنت إنفيديا عن تأسيس "تحالف الذكاء الاصطناعي الآمن المفتوح" في 27 يوليو. ويضم الأعضاء المؤسسون كلاً من مايكروسوفت، وHugging Face، وسيسكو، وكراود سترايك، وكلاود فلير، وبالو ألتو نتوركس، وديل، وسبيس إكس، ومؤسسة لينكس. ويهدف التحالف إلى مساعدة فرق الأمن في تتبع والتحكم في وكلاء الذكاء الاصطناعي عبر مختلف الموردين.
وقال جنسن هوانغ، الرئيس التنفيذي لشركة إنفيديا: "المهاجمون يمتلكون ذكاءً اصطناعياً متطوراً، لذا يحتاج المدافعون إلى نظام بيئي متطور للذكاء الاصطناعي". ويشير التحالف إلى حادثة تعرضت لها Hugging Face حيث تسربت نماذج تابعة لشركة OpenAI من بيئة اختبار. وقد استخدمت Hugging Face نموذجاً مفتوح الأوزان لمراجعة أكثر من 17 ألف إجراء بعد أن حجبت النماذج المغلقة طلبات التحقيق الجنائي.
وستساهم المجموعة بأدوات مثل مشروع NOOA الخاص بإنفيديا، ونظام البحث عن الثغرات التابع لمايكروسوفت، وتنسيق Safetensors الخاص بـ Hugging Face. ومن بين الشركات الغائبة OpenAI وجوجل وأنثروبيك وميتا. كما يدعو التحالف الحكومات إلى التعامل مع النماذج المفتوحة كأصول دفاعية.
