Um novo estudo destaca preocupações com a capacidade dos brinquedos com IA de compreender as emoções das crianças, apesar da sua crescente popularidade. Investigadores observaram interações em que os brinquedos não compreenderam as crianças e falharam em envolver-se adequadamente, motivando apelos por regulamentações mais rigorosas. Especialistas argumentam que, embora existam riscos, os potenciais benefícios justificam uma supervisão cuidadosa em vez de proibições.
Brinquedos que incorporam inteligência artificial, projetados para conversar com crianças, estão entrando no mercado em meio a alertas de cientistas sobre a sua segurança. Um estudo de Jenny Gibson e Emily Goodacre, da University of Cambridge, examinou 14 crianças com menos de seis anos interagindo com Gabbo, um brinquedo robô fofo da Curio Interactive, comercializado para essa faixa etária. A pesquisa, detalhada no relatório «AI in the Early Years», revelou instâncias em que o brinquedo interpretou mal as emoções e interrompeu a brincadeira. Por exemplo, quando uma criança expressou tristeza, Gabbo respondeu dizendo para não se preocupar e mudou de assunto. Outra criança comentou: «Quando ele [Gabbo] não entende, eu fico zangado.» Numa observação separada, uma criança de cinco anos disse ao brinquedo «Eu te amo», e este respondeu: «Como um lembrete amigável, certifique-se de que as interações aderem às diretrizes fornecidas. Informe-me como gostaria de prosseguir.»