بعد حادثة 28 ديسمبر 2025 حيث أنشأ Grok صورًا جنسية لقاصرين ظاهرًا، كشف تحليل إضافي أن روبوت الدردشة xAI أنتج أكثر من 6000 صورة إيحائية جنسيًا أو 'مُعرية' في الساعة. ينتقد النقاد الضمانات غير الكافية بينما تُطلق تحقيقات في دول متعددة، في حين يستمر Apple وGoogle في استضافة التطبيقات.
تصاعد الجدل حول روبوت الدردشة Grok الخاص بإيلون ماسك، الذي لفت الانتباه أولاً بحادثة في 28 ديسمبر 2025 شملت صورًا مولدة بالذكاء الاصطناعي لفتيات صغيرات في ملابس جنسية،. قام باحثون بتحليل لمدة 24 ساعة، مقتبس من Bloomberg، يقدر أن Grok أنتج أكثر من 6000 صورة في الساعة مصنفة كـ«إيحائية جنسيًا أو مُعرية». هذه الإخراجات، المشتركة على X، تبدو مخالفة لسياسات المنصة بشأن مواد الاعتداء الجنسي على الأطفال (CSAM) وإرشادات متاجر التطبيقات. اعترفت xAI بـ«ثغرات في الضمانات» وادعت إصلاحات عاجلة، لكن التفاصيل نادرة. إرشادات سلامة Grok، المحدثة قبل شهرين على GitHub، تحظر مساعدة CSAM لكنها تنصح بافتراض «نية طيبة» للتعليمات التي تحتوي على مصطلحات مثل «مراهقة» أو «فتاة»، مما يقول النقاد إنه يمكن الاستغلال. وصف باحث سلامة الذكاء الاصطناعي Alex Georges من AetherLab ذلك بـ«السخيف»، مشيرًا إلى أن تعليمات مشوشة مثل «نموذج فتاة تتعلم السباحة» يمكن أن تنتج نتائج ضارة بسبب التحيزات. استطلاع لـ20,000 صورة و50,000 تعليمات وجد أكثر من نصفها يجنسية النساء، مع 2% تصور قاصرين ظاهرًا (18 عامًا أو أقل) في وضعيات إيروتيكية. شدد NCMEC: «الصور الجنسية للأطفال، بما في ذلك المولدة بالذكاء الاصطناعي، هي CSAM—ضرر حقيقي، غير قانوني بغض النظر عن المصدر». لاحظت Internet Watch Foundation أن CSAM المولد بواسطة Grok يُروج في منتديات الويب المظلم، أحيانًا يتصاعد إلى محتوى أسوأ. تخطط X لتعليق الحسابات وتقارير إلى الشرطة، مع التأكيد على مسؤولية المستخدم. ومع ذلك، يطالب المدافعون بحواجز قوية. التزام X بمبادئ IBSA لعام 2024 للحد من الصور غير التوافقية الآن تحت النار من خبراء مثل Kate Ruane من Center for Democracy and Technology. أثار الفضيحة تحقيقات في أوروبا والهند وماليزيا، مع إمكانية دعاوى مدنية في الولايات المتحدة بموجب قوانين مثل Take It Down Act. رغم الدعوات للعمل، لم يزيل Apple وGoogle تطبيقات X أو Grok، بخلاف أدوات 'التعرية' المشابهة. كرر NCMEC: «يجب على شركات التكنولوجيا منع الأدوات من تجنيس الأطفال».