يثير خبراء الأمن السيبراني قلقاً متزايداً حيال كيفية إعادة تشكيل الذكاء الاصطناعي للجرائم الإلكترونية، مع أدوات مثل الديبفيكس والتصيد الاحتيالي بالذكاء الاصطناعي والنماذج اللغوية الكبيرة المظلمة التي تمكن حتى المبتدئين من تنفيذ عمليات احتيال متقدمة. تشكل هذه التطورات مخاطر كبيرة على الشركات في العام القادم. تؤكد رؤى منشورة من TechRadar على حجم وتطور هذه التهديدات الناشئة.
يُحدث الذكاء الاصطناعي ثورة في الجرائم الإلكترونية بطرق غير مسبوقة، وفقاً لتحليل حديث. الديبفيكس، التي تخلق فيديوهات أو صوتيات مزيفة واقعية، والهجمات الاحتيالية بالذكاء الاصطناعي التي تحاكي الاتصالات الموثوقة، والنماذج اللغوية الكبيرة المظلمة —الإصدارات الضارة من نماذج اللغة الكبيرة— في طليعة هذا التحول. تسمح هذه التقنيات للأفراد ذوي المهارات التقنية المحدودة بإطلاق عمليات متطورة على نطاق واسع، مما يُديمقرط التهديدات السيبرانية ويُعزز نطاقها. يعبر الخبراء عن قلقهم إزاء التداعيات على الشركات، محذرين من أن الذكاء الاصطناعي المُسَلَّح قد يمثل التحدي الأمني الأكثر إلحاحاً هذا العام. قدرة النماذج اللغوية الكبيرة المظلمة على إنتاج عمليات احتيال مقنعة دون الحاجة إلى خبرة عميقة تخفض الحواجز أمام المجرمين الإلكترونيين، مما قد يُغرق الدفاعات التقليدية. مع تطور هذه الأدوات، يُحث المنظمون على الحيطة من التكتيكات الخادعة التي تستغل قدرات الذكاء الاصطناعي التوليدية. يُبرز هذا المشهد المتطور الطبيعة ذات الحدين لتقدم الذكاء الاصطناعي، حيث تُغذي الابتكارات في مجال ما مخاطر في مجال آخر. يجب على الشركات إعطاء الأولوية للتوعية والاستراتيجيات التكيفية لتخفيف هذه المخاطر.