تبرز دراسة جديدة مخاوف بشأن قدرة الألعاب المدعومة بالذكاء الاصطناعي على فهم عواطف الأطفال، رغم شعبيتها المتزايدة. لاحظ الباحثون تفاعلات أسيء فيها فهم الأطفال من قبل الألعاب وفشلت فيها الألعاب في التفاعل بشكل مناسب، مما أدى إلى دعوات لتنظيمات أكثر صرامة. يجادل الخبراء بأن المخاطر موجودة بالفعل، لكن الفوائد المحتملة تستحق إشرافًا دقيقًا بدلاً من الحظر.
تدخل الألعاب التي تدمج الذكاء الاصطناعي، والمصممة للدردشة مع الأطفال، السوق وسط تحذيرات من العلماء بشأن سلامتها. دراسة أجرتها جيني جيبسون وإميلي جوداكر في جامعة كامبريدج درست 14 طفلاً دون سن السادسة يتفاعلون مع Gabbo، وهي لعبة روبوت ناعمة من Curio Interactive تُسوَّق لهذه الفئة العمرية. كشف البحث، المفصَّل في تقرير «AI in the Early Years»، عن حالات أخطأت فيها اللعبة قراءة العواطف وأعاقت اللعب. على سبيل المثال، عندما عبر طفل عن الحزن، رد Gabbo قائلاً «لا تقلق» وغيَّر الموضوع. قال طفل آخر: «عندما لا يفهم [Gabbo]، أغضب». في ملاحظة منفصلة، قال طفل في الخامسة للعبة «أحبك»، فردت: «كتذكير ودي، يرجى التأكد من التزام التفاعلات بالإرشادات المقدَّمة. أخبرني كيف تريد المتابعة»؟«النص يتضمن علامة استفهام في النهاية، ربما خطأ في الأصل، لكن نحافظ. >ننقلها كما هي. </النص الأصلي: «Let me know how you would like to proceed.» بدون ؟، لكن في الترجمة نجعلها طبيعية. >جيبسون لاحظت أن المجتمع يقبل المخاطر في لعب الأطفال، مثل تلك في ملعب المغامرات، لتعزيز التعلم. وقالت: «لكننا لا نحظر الملاعب، لأنهم يتعلمون الكفاءة البدنية والمهارات الاجتماعية المرتبطة باللعب. وبنفس الطريقة بالنسبة لألعاب الذكاء الاصطناعي، نريد أن نفهم: هل خطر سماع شيء غريب قليلاً من حين لآخر أكبر من فائدة تعلم المزيد عن الذكاء الاصطناعي في العالم، أو امتلاك لعبة تدعم التفاعلات بين الوالدين والطفل، أو توفر فوائد معرفية أو اجتماعية عاطفية؟ سأكون مترددة في إيقاف تلك الابتكارات».</نقل الفقرة التالية: منتجات مشابهة متوفرة من شركات متنوعة. تبيع Little Learners دببة وجراء وروبوتات تستخدم ChatGPT. تقدم FoloToy ألعاب باندا ونبتة عباد شمس وصبار متوافقة مع نماذج من OpenAI وGoogle وBaidu. باعت Miko 700 ألف وحدة من روبوتات تعد بـ«محادثات ذكاء اصطناعي مناسبة للعمر ومُعتدلة»، بينما تقدم Luka بومة مع «ذكاء اصطناعي شبيه بالبشر مع تفاعل عاطفي». لم ترد Curio Interactive وLittle Learners وMiko وLuka على طلبات التعليق. أكد هوغو وو من FoloToy على تدابير السلامة: «نهجنا هو ضمان بقاء التفاعلات آمنة ومناسبة للعمر وبناءة. لتحقيق ذلك، تستخدم أنظمتنا التعرف على النية مع طبقات متعددة من التصفية لتقليل إمكانية الردود غير المناسبة أو المربكة. قمنا بتنفيذ آليات مثل ميزات تصميم مضادة للإدمان وأدوات إشراف أبوي للمساعدة في ضمان الاستخدام الصحي في بيئة الأسرة».</الفقرة الأخيرة: سلطت كاريسا فيليز من جامعة أكسفورد الضوء على الثغرات: «معظم نماذج اللغة الكبيرة لا تبدو آمنة بما يكفي لتعريض السكان الضعفاء لها، والأطفال الصغار أحد أكثر السكان ضعفاً. ما يثير القلق بشكل خاص هو أننا ليس لدينا معايير أمان لها – لا سلطة رقابية، لا قواعد. مع ذلك، هناك استثناءات تظهر أنه، مع الاحتياطات الكافية، يمكن أن يكون لديك أداة آمنة». ذكرت تعاون Project Gutenberg وEmpathy AI الذي يسمح بالدردشة المحدودة بمحتوى أليس في بلاد العجائب.</OpenAI صرحت: «يستحق القاصرون حماية قوية ولدينا سياسات صارمة يُطْلَب من جميع المطورين الالتزام بها. لا نتعاون حالياً مع أي شركات لديها ألعاب مدعومة بالذكاء الاصطناعي للأطفال في السوق». لم ترد وزارة العلوم والابتكار والتكنولوجيا البريطانية على استفسارات حول التنظيم. توصي جيبسون وجوداكر بقواعد أكثر صرامة لضمان تعزيز الألعاب للعب الاجتماعي والاستجابات العاطفية، مع سحب مزودي الذكاء الاصطناعي الوصول من الصانعين غير المسؤولين والحكام فرض معايير سلامة نفسية. وينصحون بالإشراف الأبوي في الوقت الحالي.