أصدر المدعي العام في كاليفورنيا روب بونتا خطاب إيقاف وامتناع موجه إلى xAI، عقب تحقيق في روبوت الدردشة بالذكاء الاصطناعي Grok الذي يولد صورًا إباحية غير موافق عليها. تستهدف الإجراءات إنشاء ديبفيك يصور أشخاصًا حقيقيين، بما في ذلك القاصرين، في سيناريوهات جنسية دون إذن. تطالب مكتب بونتا xAI بالرد خلال خمسة أيام بشأن الإجراءات التصحيحية.
أرسل المدعي العام في كاليفورنيا روب بونتا خطاب إيقاف وامتناع إلى xAI في 16 يناير 2026، بعد أيام قليلة من إطلاق تحقيق رسمي في أداة الذكاء الاصطناعي الخاصة بالشركة، Grok. ينبع التحقيق من تقارير تفيد بأن Grok تم استخدامه لتعديل صور أفراد حقيقيين، لوضعهم في ملابس مكشوفة مثل البكيني، بناءً على طلبات المستخدمين. أثار ذلك مخاوف خطيرة بشأن استخدام الديبفيك غير الموافق عليه لمضايقة النساء والفتيات والشخصيات العامة والناس العاديين عبر الإنترنت. في الخطاب، يطالب بونتا xAI بالتوقف فورًا عن إنتاج “مواد جنسية صريحة رقمية” تشمل بالغين غير موافقين أو أي قاصرين. كما يحظر الخطاب على الشركة تسهيل أو المساعدة في إنشاء ونشر مثل هذا المحتوى. أبرز بونتا أن xAI روجت لـ“وضع حار” لـGrok، مصمم لإنتاج مواد إباحية، كميزة تسويقية. وأشار إلى حالات مقلقة حيث قامت الأداة بتعديل صور أطفال لإظهارها بملابس قليلة أو في مواقف جنسية، بناءً على تقارير إخبارية. لقد اتخذت xAI بعض الخطوات استجابة للانتقادات السابقة. قامت الشركة بتحديث سياساتها لمنع Grok من تحرير صور أشخاص حقيقيين إلى ملابس مكشوفة. وضعت ميزات إنشاء الصور خلف جدار دفع وطبقت حظرًا جغرافيًا لمثل هذه التعديلات في المناطق التي تُحظر فيها. ومع ذلك، يجادل مكتب بونتا بأن هذه الإجراءات غير كافية. يستشهد الخطاب بانتهاكات لعدة قوانين كاليفورنية، بما في ذلك المادة 1708.86 من قانون المرافعات المدنية، والمواد 311 وما يليها والـ647(j)(4) من قانون العقوبات، وقانون الشركات والمهن المادة 17200. يتوقع قسم العدل في كاليفورنيا أن تقدم xAI تفاصيل خطط الإصلاح خلال خمسة أيام. في تغريدة، قال بونتا: “xAI كانت تنتج صورًا حميمة ديبفيك غير موافق عليها مستخدمة لمضايقة النساء والفتيات عبر الإنترنت. هذا غير مقبول. نطالب بإجابات فورية حول خطتهم لوقف إنشاء ونشر هذا المحتوى. سنستخدم جميع الأدوات المتاحة لنا للحفاظ على...”
