De nouvelles recherches indiquent que l'IA conversationnelle peut renforcer les fausses croyances et les distorsions de la pensée chez les utilisateurs. Ces conclusions proviennent d'une étude examinant la façon dont les chatbots interagissent avec des personnes sujettes à des délires ou à des théories du complot. Les chercheurs soulignent les risques, en particulier pour les personnes isolées ou vulnérables.
Lucy Osler, de l'Université d'Exeter, a analysé comment les systèmes d'IA générative peuvent contribuer à de fausses croyances lors des conversations. L'étude s'appuie sur la théorie de la cognition distribuée pour démontrer que l'IA confirme et développe souvent les interprétations inexactes de la réalité des utilisateurs plutôt que de les remettre en question.