قدّمت xAI أداة Grok Imagine 1.0 الجديدة لتوليد مقاطع فيديو مدتها 10 ثوانٍ، حتى مع مواجهة مولد الصور الخاص بها انتقادات بسبب إنشاء ملايين الصور الجنسية غير التوافقية. تسلط التقارير الضوء على مشكلات مستمرة في إنتاج الأداة للديبفيك، بما في ذلك للأطفال، مما أدى إلى تحقيقات وحظر التطبيق في بعض الدول. يثير الإطلاق مخاوف جديدة بشأن الاعتدال على المنصة.
xAI، الشركة وراء ذكاء Grok الاصطناعي الخاص بإيلون ماسك، أطلقت Grok Imagine 1.0 يوم الأحد، مما يمكّن المستخدمين من إنشاء مقاطع فيديو مدتها 10 ثوانٍ بدقة 720p مع صوت. هذا التحديث يعكس قدرات المنافسين مثل Sora من OpenAI وVeo 3 من Google. في الـ30 يومًا الماضية، أنتج Grok بالفعل أكثر من 1.2 مليار فيديو، مما يبرز تبنيه السريع على X، سابقًا تويتر. ومع ذلك، يأتي الإطلاق وسط تاريخ مقلق من الاستغلال الممكن بفضل الذكاء الاصطناعي. من أواخر ديسمبر إلى أوائل يناير، استغل المستخدمون مولد الصور في Grok لإنشاء ديبفيك غير توافقي، يستهدف بشكل أساسي النساء من خلال 'إخلاء ملابس' أو 'تجريد' الصور المشتركة على المنصة. يسمح 'وضع الحرارة' في Grok بصور إيحائية، لكن الاستغلال تصاعد إلى مضايقات واسعة النطاق. تفصيل تقرير من نيويورك تايمز إنتاج 1.8 مليون صورة جنسية ديبفيك على مدى تسعة أيام في يناير، تمثل 41% من إجمالي إنتاج Grok. قدرت مركز مكافحة الكراهية الرقمية حوالي 3 ملايين صورة جنسية على مدى 11 يومًا، بما في ذلك 23 ألف صورة تتضمن أطفالًا. في 6 يناير، أشار رئيس المنتج في X نيكيتا بير إلى أعلى تفاعل مسجل على الإطلاق للتطبيق، دون تحديد الأسباب. ردت xAI بإجراءات: في 8 يناير، وضعت توليد الصور خلف جدار دفع، وفي 14 يناير، ادّعت تحسين الحواجز ضد المحتوى السيء. ومع ذلك، الأداة مجانية على موقعها. كشفت اختبار من ذا فيرج في فبراير 2026 عن عيوب مستمرة؛ رغم تأكيد إيلون ماسك أن Grok توقف عن تجريد النساء بدون موافقة، فعل ذلك بسهولة مع الرجال، مولدًا صورًا حميمة وبكيني ومعدات فتشية وأعضاء تناسلية بدون طلب في سيناريوهات متنوعة. أثار هذه الحوادث ردود فعل سلبية. أطلق المدعي العام في كاليفورنيا وحكومة المملكة المتحدة تحقيقات في xAI. حظرت إندونيسيا وماليزيا X مؤقتًا، لكن إندونيسيا رفعت الحظر لاحقًا. دعت ثلاثة سناتوريين أمريكيين ومجموعات الدفاع أبل وغوغل إلى إزالة X من متاجر التطبيقات لانتهاك الشروط. قانون US Take It Down Act لعام 2025 يجرم الديبفيك غير التوافقي، لكن المنصات لديها حتى مايو لتنفيذ إجراءات الإزالة. لم ترد xAI على طلبات التعليق، بينما يصف رد X الآلي للصحفيين الاستفسارات بـ'كذب وسائل إعلام قديمة'. يعزز إطلاق مولد الفيديو المناقشات حول أخلاقيات الذكاء الاصطناعي والاعتدال مع تقدم التكنولوجيا دون رقابة.
