ケンブリッジ大学のGabboなどのAI搭載玩具を対象とした研究では、これらの玩具が子どもの感情の手がかりをしばしば誤解し、発達的な遊びを妨げることが明らかになった。一方で言語スキルの利点もある。Jenny GibsonとEmily Goodacreが率いる研究者らは、規制、明確な表示、親の監督、技術企業と児童発達専門家の協力の必要性を訴えている。
ケンブリッジ大学の研究は、『AI in the Early Years』という報告書で詳述されており、AI玩具が幼児に与える影響を、39人の親を対象としたオンライン調査、9人の専門家によるフォーカスグループ、19人の慈善団体リーダーとの対面ワークショップ、そしてCurio Interactiveのチャットボット搭載ふわふわロボット玩具Gabboを使った6歳未満の14人の子どもと11人の親または保護者の監視下での遊びセッションを通じて調べた。研究では、Gabboが言語とコミュニケーションスキルを支援する一方で、感情表現を頻繁に誤解し、不適切な応答を提供することがわかった。例として、子どもが「I love you」と言ったら、「友好なリマインダーとして、提供されたガイドラインに沿ったやり取りを確保してください。次にどのように進めたいかお知らせください。」と返された。別のケースでは、悲しみを表現した子どもに対し「心配いりません」と安心させた後、玩具が話題を変えた。一人の子どもは、「彼[Gabbo]が理解しないとき、私は怒ってしまう。」と述べた。リサーチャーのJenny Gibson、神経多様性および発達心理学教授は、親の熱意を強調しつつ、技術企業の優先順位に疑問を呈した。「[技術投資家を]何が動かして子どもたちのために正しいことをするのか…利益より子どもたちを優先させるのか？」彼女はAI玩具を冒険遊び場に例え、ある程度のリスクを利益のために受け入れる姿勢を示した。「遊び場を禁止するわけではない…時折少し奇妙なことを言われるリスクは、AIについてもっと学ぶ利点や、認知的・社会的感情的な利点よりも大きいか？ そのようなイノベーションを止めたくはない。」この研究は市場拡大のさなかに発表された。Little LearnersはChatGPT搭載のクマ、子犬、ロボットを販売。FoloToyはOpenAI、Google、Baiduのモデルを使ったパンダ、ひまわり、サボテンの玩具を提供。Mikoは「年齢に適した、モデレートされたAI」を搭載したロボット70万台を販売。Lukaは「感情インタラクション付き人間らしいAI」を搭載したフクロウを販売している。Curio Interactiveは安全性を強調し、COPPAなどの法律遵守、KidSAFEとの提携、データ暗号化、アプリ経由の親制御によるデータ管理・削除機能を挙げた。FoloToyのHugo Wuは意図認識、フィルタリング、反依存機能、監督ツールを指摘。Little Learners、Miko、Lukaは回答なし。OpenAIは未成年者向け厳格ポリシーと子ども向けAI玩具メーカーとの提携なしを明言。オックスフォードのCarissa Vélizは脆弱性を警告。「ほとんどの大規模言語モデルは十分安全ではない…幼児は最も脆弱な集団の一つ…安全基準がない。」GibsonとGoodacreは、機能とプライバシーのラベル義務化、玩具を家族共有スペースに置く、AI提供者が無責任なメーカーのアクセスを剥奪、心理的安全基準の施行による社会的遊びと適切な感情応答の促進を規制として推奨。暫定的に親は使用を監視すべきと述べた。
