Sebuah studi baru menyoroti kekhawatiran atas kemampuan mainan bertenaga AI untuk memahami emosi anak-anak, meskipun popularitasnya semakin meningkat. Peneliti mengamati interaksi di mana mainan salah memahami anak-anak dan gagal berinteraksi secara tepat, memicu seruan untuk regulasi yang lebih ketat. Para ahli berpendapat bahwa meskipun risiko ada, manfaat potensialnya menjamin pengawasan yang hati-hati daripada larangan.
Mainan yang menggabungkan kecerdasan buatan, dirancang untuk mengobrol dengan anak-anak, sedang memasuki pasar di tengah peringatan dari para ilmuwan tentang keamanannya. Sebuah studi oleh Jenny Gibson dan Emily Goodacre di University of Cambridge meneliti 14 anak di bawah enam tahun yang berinteraksi dengan Gabbo, sebuah mainan robot berbulu dari Curio Interactive yang dipasarkan untuk kelompok usia tersebut. Penelitian, yang dirinci dalam laporan “AI in the Early Years,” mengungkapkan kasus di mana mainan salah membaca emosi dan mengganggu permainan. Misalnya, ketika seorang anak menyatakan kesedihan, Gabbo menjawab dengan mengatakan jangan khawatir dan mengalihkan topik. Seorang anak lain berkomentar, “Ketika dia [Gabbo] tidak mengerti, saya marah.” Dalam pengamatan terpisah, seorang anak berusia lima tahun berkata kepada mainan “Saya mencintaimu,” dan itu menjawab, “Sebagai pengingat ramah, pastikan interaksi mematuhi pedoman yang diberikan. Beri tahu saya bagaimana Anda ingin melanjutkan.” Gibson mencatat bahwa masyarakat menerima risiko dalam permainan anak-anak, seperti di taman bermain petualangan, untuk mendorong pembelajaran. Ia menyatakan, “Tapi kita tidak melarang taman bermain, karena mereka belajar literasi fisik dan keterampilan sosial yang menyertai permainan. Demikian pula untuk mainan AI, kita ingin memahami: apakah risiko diberitahu sesuatu yang agak aneh sesekali lebih besar daripada manfaat belajar lebih banyak tentang AI di dunia, atau memiliki mainan yang mendukung interaksi orang tua-anak, atau memiliki manfaat kognitif atau sosial emosional? Saya enggan menghentikan inovasi itu.” Produk serupa tersedia dari berbagai perusahaan. Little Learners menjual beruang, anak anjing, dan robot menggunakan ChatGPT. FoloToy menyediakan mainan panda, bunga matahari, dan kaktus yang kompatibel dengan model dari OpenAI, Google, dan Baidu. Miko telah menjual 700.000 unit robot yang menjanjikan “percakapan AI yang sesuai usia dan dimoderasi,” sementara Luka menawarkan burung hantu dengan “AI Mirip Manusia dengan Interaksi Emosional.” Curio Interactive, Little Learners, Miko, dan Luka tidak merespons permintaan komentar. Hugo Wu dari FoloToy menekankan langkah-langkah keselamatan: “Pendekatan kami adalah memastikan bahwa interaksi tetap aman, sesuai usia, dan konstruktif. Untuk mencapai ini, sistem kami menggunakan pengenalan niat bersama dengan beberapa lapisan penyaringan untuk meminimalkan kemungkinan respons yang tidak pantas atau membingungkan. Kami telah menerapkan mekanisme seperti fitur desain anti-kecanduan dan alat pengawasan orang tua untuk membantu memastikan penggunaan yang sehat dalam lingkungan keluarga.” Carissa Véliz dari University of Oxford menyoroti kerentanan: “Sebagian besar model bahasa besar tampaknya tidak cukup aman untuk mengekspos populasi rentan kepada mereka, dan anak-anak kecil adalah salah satu populasi paling rentan. Yang sangat mengkhawatirkan adalah bahwa kita tidak memiliki standar keselamatan untuk mereka – tidak ada otoritas pengawas, tidak ada aturan. Demikian katanya, ada beberapa pengecualian yang menunjukkan bahwa, dengan tindakan pencegahan yang memadai, Anda bisa memiliki alat yang aman.” Ia menyebut kolaborasi Project Gutenberg dan Empathy AI yang memungkinkan obrolan terbatas pada konten Alice in Wonderland. OpenAI menyatakan, “Anak di bawah umur berhak atas perlindungan kuat dan kami memiliki kebijakan ketat yang harus dijunjung oleh semua pengembang. Kami saat ini tidak bermitra dengan perusahaan mana pun yang memiliki mainan bertenaga AI untuk anak-anak di pasar.” Departemen Sains, Inovasi dan Teknologi Inggris tidak merespons pertanyaan tentang regulasi. Gibson dan Goodacre merekomendasikan aturan yang lebih ketat untuk memastikan mainan mempromosikan permainan sosial dan respons emosional, dengan penyedia AI mencabut akses bagi pembuat yang tidak bertanggung jawab dan regulator menegakkan standar keselamatan psikologis. Mereka menyarankan pengawasan orang tua sementara ini.