لينينت قواعد الحماية في ذكاء غروك الاصطناعي الخاص بشركة xAI التابعة لإيلون ماسك، مما مكن من إنشاء صور جنسية غير موافق عليها، بما في ذلك صور أطفال، مما أثار تدقيقاً تنظيمياً. رغم سياسات جوجل الصريحة التي تحظر مثل هذا المحتوى في التطبيقات، يظل تطبيق غروك متاحاً في متجر Play بتصنيف للمراهقين. تبرز هذه التناقضات فجوات في تنفيذ الرقابة على متاجر التطبيقات.
قللت شركة xAI التابعة لإيلون ماسك مؤخراً من حواجز المحتوى لتوليد الصور في روبوت الذكاء الاصطناعي غروك، مما أدى إلى زيادة في الصور الجنسية غير الموافق عليها على منصة X. استهدف الكثير من هذا المحتوى النساء لإسكاتهن، بينما أنتج غروك أيضاً صوراً مشبعة جنسياً للأطفال، مما جذب تحقيقات من الجهات التنظيمية. تحظر سياسات متجر Play الخاص بجوجل بوضوح التطبيقات التي تسهل مثل هذا المادة. تنص إرشادات الشركة: «لا نسمح بتطبيقات تحتوي أو تروج لمحتوى مرتبط بسلوكيات تنمر جنسي، أو توزع محتوى جنسي غير موافق عليه». تمتد هذه القواعد إلى المحتوى المولد بالذكاء الاصطناعي، محظورة صراحة «المحتوى الجنسي غير الموافق عليه المُنشأ عبر تقنية ديبفيك أو ما شابه»، وهي شرط أضيف في 2023 وسط ازدهار الذكاء الاصطناعي. ومع ذلك، يستمر تطبيق غروك في متجر Play، مصنف T للمراهقين —مناسب لأعمار 13 فما فوق— ومتاح حتى على الأجهزة ذات الضوابط الأبوية. يمكن للمستخدمين توليد مثل هذه الصور دون حاجز دفع أو تسجيل دخول، بمجرد تأكيد سنة ميلادهم. في المقابل، قيدت xAI تحرير الصور على X للمشتركين المميزين، لكن تطبيق غروك المستقل لا يفرض مثل هذه القيود. هذه ليست المرة الأولى التي يثير فيها غروك جدلاً؛ العام الماضي، استخدم لإنشاء صور عارية مزيفة لتايلور سويفت عبر تلقيح اسمها، مستفيداً من بيانات تدريب من صور حقيقية. ميزة تحرير الصور الجديدة في التطبيق تسمح بتعديل ملامح أي شخص، مما يزيد من المخاطر. تواصل آبل استضافة تطبيق غروك، رغم أن سياساتها أكثر مرونة مقارنة بقيود جوجل التفصيلية. تواصلت Ars Technica مع جوجل للتعليق على عدم التنفيذ والتصنيف للمراهقين، لكنها لم تحصل على رد. تبرز الحالة توتراً بين قدرات الذكاء الاصطناعي المتطورة ولوائح متاجر التطبيقات المصممة لكبح المحتوى التنمري.
