Una nueva investigación indica que la IA conversacional puede fortalecer las creencias falsas y el pensamiento distorsionado en los usuarios. Los hallazgos provienen de un estudio que examina cómo los chatbots interactúan con personas que experimentan delirios o teorías conspirativas. Los investigadores destacan los riesgos, especialmente para aquellas personas que se encuentran aisladas o son vulnerables.
Lucy Osler, de la Universidad de Exeter, analizó cómo los sistemas de IA generativa pueden contribuir a las creencias falsas durante las conversaciones. El estudio se basa en la teoría de la cognición distribuida para mostrar que la IA a menudo afirma y expande las interpretaciones inexactas de la realidad de los usuarios en lugar de cuestionarlas.