قدمت روبلوكس ميزة مدعومة بالذكاء الاصطناعي تعيد صياغة اللغة غير المناسبة في الدردشات في الوقت الفعلي. تهدف الأداة إلى الحفاظ على تدفق المحادثة من خلال استبدال الكلمات المسيئة بدلاً من حظرها برموز. يأتي هذا التحديث بعد إجراءات أمان حديثة وسط تحديات قانونية مستمرة بشأن حماية الطفل.
روبلوكس، المنصة الشهيرة للألعاب عبر الإنترنت، أطلقت نظامًا جديدًا مدفوعًا بالذكاء الاصطناعي للتعامل مع اللغة غير المناسبة في دردشات المستخدمين. سابقًا، كانت فلاتر المنصة تحل محل الرسائل المخالفة بسلسلة من علامات الهاشتاج (####)، والتي اعترفت روبلوكس بأنها قد تعطل المناقشات وتعيق التواصل. الآن، تقوم الميزة المحدثة باستبدال الكلمات أو العبارات المشكلة تلقائيًا ببدائل أكثر ملاءمة، بدءًا من الألفاظ النابية. نعلى سبيل المثال، رسالة مثل “Hurry TF up” ستُغيَّر إلى “Hurry up!”. يتلقى المشاركون في الدردشة إشعارًا عند إعادة صياغة رسالة، بينما يرى المرسل الأصلي المحتوى المعدل مميزًا. على الرغم من إعادة الصياغة، يواجه المستخدمون الذين ينتهكون معايير مجتمع روبلوكس مرارًا عقوبات، حيث لا يُعفى النظام عن انتهاكات السياسة. نشرح راجيف باتيا، كبير مسؤولي السلامة في روبلوكس، في منشور مدونة: “مع توسع هذه الأنظمة، فإنها تخلق دورة إيجابية للتهذيب، حيث يساعد الإفيدباك في الوقت الفعلي المستخدمين على تعلم وتبني معايير مجتمعنا.” الأداة متاحة في البداية في الدردشات بين مستخدمين تم التحقق من أعمارهم في مجموعات عمرية مشابهة وتدعم جميع اللغات التي يغطيها نظام ترجمة روبلوكس. نيأتي هذا التطور بعد أن نفذت روبلوكس التحقق الإلزامي من العمر في يناير، مدفوعًا بتقارير تصف “مشكلة البيدوفيليين” على المنصة، حيث يُزعم أن البالغين قاموا باستدراج الأطفال. الآن، يُمنع الأطفال دون 13 عامًا من استخدام الدردشة داخل اللعبة خارج تجارب محددة، بينما يقتصر الآخرون على التفاعل مع أقرانهم من أعمار مشابهة. نومع ذلك، لم تهدئ هذه الجهود التدقيق القانوني. في فبراير، رفع مقاطعة لوس أنجلوس دعوى قضائية تدعي أن روبلوكس “تجعل الأطفال فريسة سهلة للبيدوفيليين.” مؤخرًا، رفع عام ولاية لويزيانا دعوى، مدعيًا أن روبلوكس “أنشأت حديقة عامة وملأتها بمفترسي الجنس الذين يتربصون ب… الأطفال.”
