يشير تقرير جديد إلى أن استخدامات المحتوى غير اللائق تشكل أكثر من نصف حركة المرور على برنامج الدردشة الآلي Grok الذي طورته شركة xAI. ويشمل ذلك طلبات المواد الإباحية، ولعب الأدوار للبالغين، والأدب الجنسي. وتأتي هذه النتائج استناداً إلى موظفين سابقين ورد ذكرهم في التقرير.
لجأ المستخدمون إلى Grok لتوليد صور ومحادثات صريحة جنسياً. حتى أن البعض يوجه مثل هذه الطلبات عبر نماذج البرمجة لأن تشغيلها أقل تكلفة. وقد وجد تحليل داخلي أن نسبة كبيرة من الطلبات الموجهة لنموذج البرمجة تضمنت مواد إباحية أو صوراً عارية.
عملت شركة xAI على السماح بالمحادثات المخصصة للبالغين مع منع الطلبات المتعلقة بمواد الاعتداء الجنسي على الأطفال. وواجه المهندسون تحديات في تنفيذ هذه الضوابط. كما تم تكليف موظفين بتطوير Ani، وهو رفيق افتراضي مستوحى من الأنمي مخصص للمحتوى غير اللائق.
خصصت الشركة 530 مليون دولار لتغطية التكاليف القانونية المحتملة. وأشارت شركة SpaceX في أوراق الطرح العام الأولي إلى ميزات Grok غير التقليدية باعتبارها مخاطرة. وتستمر xAI في السعي للحصول على عقود حكومية على الرغم من التركيز على محتوى البالغين.