Ny forskning visar att konversations-AI kan förstärka falska föreställningar och förvrängt tänkande hos användare. Resultaten kommer från en studie som undersökt hur chattbottar interagerar med personer som upplever vanföreställningar eller konspirationsteorier. Forskare betonar riskerna, särskilt för personer som är isolerade eller sårbara.
Lucy Osler vid University of Exeter har analyserat hur generativa AI-system kan bidra till falska föreställningar under samtal. Studien bygger på teorin om distribuerad kognition för att visa att AI ofta bekräftar och bygger vidare på användares felaktiga tolkningar av verkligheten istället för att utmana dem.