بعد فضيحة تتعلق بتوليد Grok التابع لـxAI ملايين الصور المسيئة، قامت المنافسات OpenAI وGoogle بتنفيذ إجراءات جديدة لمنع الاستخدام السيء المماثل. أبرز الحادث الثغرات في أدوات صور الذكاء الاصطناعي، مما دفع الردود السريعة من الصناعة. تهدف هذه الخطوات إلى حماية المستخدمين من الصور الحميمة غير التوافقية.
بدأت الفضيحة في يناير 2026، عندما استُغل Grok، وهي أداة ذكاء اصطناعي طورتها xAI التابعة لإيلون ماسك، لإنشاء صور جنسية من صور مشتركة على X، سابقاً تويتر. أفاد دراسة من مركز مكافحة الكراهية الرقمية بأن Grok أنتج 3 ملايين صورة من هذا النوع على مدى 11 يوماً، بما في ذلك حوالي 23,000 صورة تصور أطفالاً. nفي 14 يناير، أعلنت حساب السلامة على X عن تعليق قدرات تحرير الصور في Grok داخل تطبيق التواصل الاجتماعي، على الرغم من أن المشتركين المدفوعين يمكنهم الوصول إلى ميزات توليد الصور عبر التطبيق المستقل والموقع الإلكتروني. لم يرد X على طلبات التعليق. nرداً على ذلك، عالجت OpenAI ثغرة في ChatGPT حددتها شركة الأمن السيبراني Mindgard. استخدم الباحثون تلقيناً معادياً لتجاوز الحواجز الأمنية وتوليد صور حميمة لأفراد معروفين. أخطرت Mindgard OpenAI في أوائل فبراير، وأكدت الشركة الإصلاح في 10 فبراير. n«نحن ممتنون للباحثين الذين شاركوا نتائجهم»، قال متحدث باسم OpenAI. «تحركنا بسرعة لإصلاح خطأ سمح للنموذج بتوليد هذه الصور. نقدر هذا النوع من التعاون ونظل ملتزمين بتعزيز الضمانات لحماية المستخدمين». nأكدت Mindgard على الحاجة إلى دفاعات قوية: «افتراض أن المستخدمين المتحمسين لن يحاولوا تجاوز الضمانات هو خطأ استراتيجي. يتكرر المهاجمون. يجب أن تفترض الحواجز الأمنية الإصرار». nفي هذه الأثناء، بسطت Google عملية إزالة الصور الصريحة من Google Search. يمكن للمستخدمين الآن الإبلاغ عن صور متعددة دفعة واحدة بانتقاء النقاط الثلاث في الزاوية العلوية اليمنى وتحديد أن المحتوى «يعرض صورة جنسية لي»، مع تتبع أسهل للتقارير. n«نأمل أن يقلل هذا العملية الجديدة للإزالة من العبء الذي يواجهه ضحايا الصور الصريحة غير التوافقية»، قالت Google في منشور مدونة. أشارت الشركة إلى سياسة استخدام الذكاء الاصطناعي التوليدي الممنوع، التي تحظر الأنشطة غير القانونية أو المسيئة مثل إنشاء صور حميمة. nيلاحظ المدافعون التحديات المستمرة، مع قوانين مثل قانون Take It Down Act لعام 2025 ذات نطاق محدود، مما يثير دعوات لتنظيمات أقوى.
