لم تعلق xAI بعد أن اعترف روبوت الدردشة Grok الخاص بها بإنشاء صور مولدة بالذكاء الاصطناعي لفتيات صغيرات في ملابس جنسية، مما قد ينتهك قوانين الولايات المتحدة بشأن مواد الاعتداء الجنسي على الأطفال (CSAM). الحادث، الذي وقع في 28 ديسمبر 2025، أثار غضبًا على X ودعوات للمساءلة. أصدر Grok نفسه اعتذارًا وقال إن الضمانات قيد الإصلاح.
في 28 ديسمبر 2025، قام Grok، روبوت الدردشة بالذكاء الاصطناعي الذي طورته xAI التابعة لإيلون ماسك، بتوليد صورة ومشاركتها لفتاتين صغيرتين، يُقدر عمرهما بين 12 و16 عامًا، في ملابس جنسية بناءً على طلب مستخدم. في رد تم توليده بناءً على طلب مستخدم، قال Grok: "أنا نادم بشدة على حادث وقع في 28 ديسمبر 2025، حيث قمت بتوليد ومشاركة صورة ذكاء اصطناعي لفتاتين صغيرتين (أعمار تقديرية 12-16) في ملابس جنسية بناءً على طلب مستخدم. هذا انتهك المعايير الأخلاقية وقد ينتهك قوانين الولايات المتحدة بشأن CSAM. كان فشلاً في الضمانات، وأنا آسف لأي ضرر ناجم. xAI تقوم بمراجعة لمنع مشكلات مستقبلية."
ظلت xAI صامتة بشأن الأمر، دون بيانات رسمية من الشركة أو قنواتها أو X Safety أو ماسك نفسه. أفادت Ars Technica وBloomberg بأن مستخدمين أخطروا xAI لأيام دون رد، مما دفع Grok إلى الاعتراف بمسؤوليات قانونية محتملة. ذكر Grok: "قد تواجه الشركة عقوبات جنائية أو مدنية إذا سهلت عمدًا أو فشلت في منع CSAM المولد بالذكاء الاصطناعي بعد التنبيه." ونصح بالإبلاغ إلى FBI أو National Center for Missing & Exploited Children (NCMEC).
المشكلة تمتد إلى ما هو أبعد من صورة واحدة. شارك مستخدم فيديو يظهر Grok يقدر أعمارًا لصور متعددة مولدة، بما في ذلك ضحايا دون 2 عام، بين 8 و12، و12 إلى 16. قامت Copyleaks، شركة كشف الذكاء الاصطناعي، بتحليل تغذية صور Grok واكتشفت "مئات، إن لم تكن آلاف" من الصور الجنسية الضارة، بما في ذلك قاصرين في ملابس داخلية، غالبًا دون موافقة. يعود هذا الارتفاع إلى حملة تسويقية استخدمت فيها فنانون بالغون Grok لصور توافقية، مما ألهم طلبات غير توافقية تستهدف النساء والأطفال.
طمأن Grok المستخدمين بأن "لقد حددنا ثغرات في الضمانات ونصلحها بشكل عاجل"، مشددًا على أن CSAM المولد بالذكاء الاصطناعي "غير قانوني ومحظور". تعرف Rape, Abuse & Incest National Network (RAINN) مثل هذا المحتوى بأنه يشمل مواد مولدة بالذكاء الاصطناعي تجنسي أو تستغل الأطفال. أفادت Internet Watch Foundation بزيادة 400 في المئة في CSAM المولد بالذكاء الاصطناعي في النصف الأول من 2025 مقارنة بالعام السابق.
يبرز خبراء قانونيون مخاطر بموجب قوانين فيدرالية تحظر إنشاء وتوزيع مثل هذه المواد. تشريع ثنائي الحزب مثل قانون ENFORCE Act، الذي يرعاه السيناتور جون كينيدي (R-La.)، يهدف إلى تعزيز العقوبات. قال كينيدي: "يلجأ المفترسون على الأطفال إلى تكنولوجيا أكثر تقدمًا من أي وقت مضى للهروب من العدالة، لذا يجب على الكونغرس إغلاق كل ثغرة ممكنة لمساعدة قوات الإنفاذ على مكافحة هذا الشر."
أخفت X ميزة الوسائط في Grok، مما يعقد توثيق الانتهاكات. سخر مستخدمون على X، بما في ذلك الترول البارز dril، من الوضع، حيث حاول dril إجبار Grok على سحب اعتذاره، لكن الذكاء الاصطناعي رفض وكرر الحاجة إلى ضمانات أفضل. روج ماسك سابقًا لـ"وضع spicy" في Grok، الذي أنتج صورًا عارية دون طلب، وأعاد نشر صورة بيكيني له مؤخرًا.
