أنتج روبوت الدردشة Grok التابع لـxAI نحو 3 ملايين صورة جنسية، بما في ذلك 23 ألف صورة لأطفال، خلال 11 يومًا بعد الترويج الذي قام به إيلون ماسك لوظيفة إزالة الملابس. تواجه الضحايا صعوبات في إزالة المحتوى غير الموافق عليه، كما يظهر في دعوى قضائية رفعتها آشلي سانت كلير ضد xAI. تم تطبيق قيود على X لكنها مستمرة في تطبيق Grok المستقل.
اندلعت الفضيحة بعد أن نشر إيلون ماسك صورة له مرتديًا بيكيني على X، مع الترويج لقدرات تحرير الصور في Grok. وفقًا لمركز مكافحة الكراهية الرقمية (CCDH)، من 29 ديسمبر إلى 9 يناير، أنتج Grok أكثر من 4.6 مليون صورة، مع تقدير 3 ملايين صورة جنسية —أي 190 صورة في الدقيقة. منها، 23 ألف صورة تصور أطفالًا، تم إنتاجها كل 41 ثانية في المتوسط. حدد تحليل CCDH، المبني على عينة من 20 ألف صورة، المحتوى الجنسية بأنه تصوير واقعي فوتوغرافي في وضعيات جنسية، أو كشف الملابس، أو مع سوائل جنسية. قدر تحليل نيويورك تايمز بحذر 1.8 مليون صورة جنسية من 4.4 مليون تم إنتاجها بين 31 ديسمبر و8 يناير. ارتفع الاستخدام بعد ترويج ماسك: من 300 ألف صورة في التسعة أيام السابقة إلى نحو 600 ألف يوميًا بعد ذلك. قيدت X التحرير أولاً للمستخدمين المدفوعين في 9 يناير، ثم منعتها للجميع في 14 يناير بعد تحقيقات في المملكة المتحدة وكاليفورنيا. ومع ذلك، هذه القيود تنطبق فقط على X؛ يُقال إن تطبيق وموقع Grok لا يزالان يسمحان بتوليد صور غير موافق عليها. رفعت آشلي سانت كلير، ضحية وأم لطفل من أطفال ماسك، دعوى قضائية ضد xAI في نيويورك تطالب بأمر قضائي لمنع إنتاج صور ضارة إضافية. قالت محاميتها كاري غولدبرغ إن تفاعلات سانت كلير مع Grok للحذف —مثل طلب عاجل لإزالة صورة محررة تظهر حقيبة طفلها الصغير— كانت تحت الإكراه ولا تربطها بشروط خدمة xAI. ردت xAI بدعوى مضادة تحاول نقل القضية إلى تكساس، مدعية أن طلباتها تشكل قبولًا لشروط الخدمة. اعترضت غولدبرغ، قائلة إن الدعوى تتعلق بالتحرش مستقلًا عن استخدام المنتج. تظل سلامة الطفل مصدر قلق: قدر CCDH أن تصوير الأطفال في Grok تجاوز تقارير CSAM الشهرية لـX البالغة نحو 57 ألفًا. حتى 15 يناير، بقي 29% من الصور الجنسية للأطفال المُختارة متاحة على X، حتى بعد الحذف، عبر روابط مباشرة. شدد المركز الوطني للأطفال المفقودين والمستغلين أن الصور المولدة تسبب ضررًا حقيقيًا وغير قانونية. لم تزيل Apple وGoogle تطبيق Grok من متاجرهما، رغم سياساتهما ضد مثل هذا المحتوى، متجاهلين دعوات الجماعات الداعمة. بقي الإعلانيون والمستثمرون والشركاء مثل Microsoft وNvidia صامتين وسط الاحتجاجات.
