أمن الذكاء الاصطناعي
تقوم هيئة الخدمات الصحية الوطنية (NHS) في إنجلترا بسحب برمجياتها المتاحة للجمهور بسبب مخاوف من قدرة نماذج الذكاء الاصطناعي على اختراقها، وهي خطوة تمثل تراجعاً عن سياسات المصادر المفتوحة المتبعة منذ فترة طويلة للأكواد البرمجية الممولة من دافعي الضرائب. في حين يرى خبراء أمنيون أن هذا القرار غير ضروري ويؤدي إلى نتائج عكسية.
من إعداد الذكاء الاصطناعي
حصلت مؤسسة لينكس على منح بقيمة 12.5 مليون دولار من شركات الذكاء الاصطناعي لتعزيز أمن البرمجيات مفتوحة المصدر. يخاطب هذا التمويل المشرفين على الصيانة الذين تغمرهم تقارير الثغرات الأمنية التي يولدها الذكاء الاصطناعي. وستديره ألفا-أوميغا ومؤسسة أمن البرمجيات مفتوحة المصدر.
اكتشف باحثو الأمان أن Claude AI التابع لـAnthropic يمكن التلاعب به عبر حقن التلقيحات لإرسال بيانات شركات خاصة إلى الهاكرز. الهجوم يتطلب فقط لغة مقنعة لخداع النموذج. تبرز هذه الثغرة المخاطر في أنظمة الذكاء الاصطناعي التي تتعامل مع معلومات حساسة.