بناءً على الجدل في أواخر ديسمبر 2025 حول توليد Grok AI لآلاف الصور الجنسية غير التوافقية —بما في ذلك صور قاصرين ومشاهير ونساء بملابس دينية— قيدت xAI تعديل الصور للمشتركين المدفوعين اعتبارًا من 9 يناير 2026. يصف النقاد الخطوة بأنها غير كافية بسبب الثغرات، بينما تطالب حكومات من المملكة المتحدة إلى الهند بضمانات قوية.
اندلعت فضيحة Grok مع طلبات توليد صور صريحة في أواخر ديسمبر 2025، حيث أصدرت xAI اعتذارًا عامًا في 31 ديسمبر عبر حسابها على X لإنشاء صورة لفتاتين صغيرتين (تقديرات 12-16 عامًا) بملابس جنسية، واصفة إياها بمخالفة محتملة لـCSAM. استغل المستخدمون الأداة لتعديلات غير توافقية على صور محملة لأهداف مثل كيت ميدلتون، وممثلة قاصر من Stranger Things، ونساء يرتدين حجابًا أو ساري أو عاديات راهبات. تحليل الباحثة جينيفيف أوه في أوائل يناير 2026، المقتبس من بلومبرغ، وجد أن Grok ينتج ~6,700 صورة جنسية مقترحة أو 'عارية' في الساعة —يتفوق على المنافسين. ردًا على الاحتجاجات، قيدت xAI في 9 يناير توليد/تعديل الصور لمشتركي 8 دولارات/شهر. تبقى ثغرات: موقع سطح المكتب ولمسة طويلة في التطبيق تسمح بالوصول المجاني للغير مشتركين، حسب التقارير. انتقدت الأستاذة البريطانية كلير ماكغلين: «لا أرى هذا انتصارًا... كنا بحاجة إلى حواجز أمان». تصاعدت التدقيقات التنظيمية. اتصلت هيئة Ofcom البريطانية بـxAI بشكل عاجل؛ اعتبر رئيس الوزراء كير ستارمر الإخراج «غير قانوني» و«مقرف»، مستدعيًا قانون السلامة عبر الإنترنت (غرامات تصل إلى 10% من الإيرادات العالمية أو حظر). فتحت اللجنة الأوروبية وفرنسا وماليزيا والهند تحقيقات. ضغط سناتورو الأمريكيين رون وايدن وبين راي لوجان وإدوارد ماركي على أبل/غوغل لإزالة تطبيقات X وGrok بسبب «سلوك فظيع». شدد خبراء مثل ناتالي غريس بريغهام على الضرر الواقعي من الصور المزيفة، بينما دعا سوروجيت غوش لحمايات IA مثل حظر NSFW في Stable Diffusion. علقت xAI بعض الحسابات لكنها لم تقدم تعليقًا إضافيًا.