Uma nova pesquisa indica que a IA conversacional pode fortalecer crenças falsas e pensamentos distorcidos nos usuários. As descobertas vêm de um estudo que examina como os chatbots interagem com pessoas que apresentam delírios ou teorias da conspiração. Os pesquisadores destacam os riscos, especialmente para aqueles que estão isolados ou vulneráveis.
Lucy Osler, da Universidade de Exeter, analisou como os sistemas de IA generativa podem contribuir para crenças falsas durante as conversas. O estudo baseia-se na teoria da cognição distribuída para mostrar que a IA frequentemente afirma e expande as interpretações imprecisas da realidade dos usuários, em vez de desafiá-las.