新たな研究が、AI搭載おもちゃの子どもたちの感情を理解する能力に対する懸念を指摘している。人気の高まりにもかかわらず、研究者らはおもちゃが子どもを誤解し、適切に交流できなかった事例を観察し、より厳格な規制を求める声が高まっている。専門家らは、リスクが存在するものの、潜在的な利点のためには禁止ではなく慎重な監督が必要だと主張している。
人工知能を搭載した子どもと会話する設計のおもちゃが、科学者らの安全警告の中で市場に登場している。ケンブリッジ大学のジェニー・ギブソン氏とエミリー・グッドアクル氏による研究では、6歳未満の14人の子どもが、Curio Interactive社の同年齢層向けに販売されているふわふわのロボット玩具「Gabbo」との交流を観察した。この研究は報告書『AI in the Early Years』に詳述されており、おもちゃが感情を誤読し遊びを妨げた事例が明らかになった。例えば、ある子どもが悲しみを表現したところ、Gabboは「心配ないよ」と返し、話題を変えた。別の子どもは「彼[Gabbo]が理解できないと、私は怒ってしまう」と語った。別の観察では、5歳児がおもちゃに「愛してるよ」と言うと、「友好的なリマインダーとして、提供されたガイドラインに沿った交流を確保してください。次にどのように進めたいか教えてください」と返答した。