Penelitian baru menunjukkan bahwa AI percakapan dapat memperkuat keyakinan keliru dan pola pikir yang menyimpang pada penggunanya. Temuan ini berasal dari studi yang memeriksa bagaimana chatbot berinteraksi dengan orang-orang yang mengalami delusi atau teori konspirasi. Para peneliti menyoroti risiko terutama bagi mereka yang terisolasi atau rentan.
Lucy Osler dari University of Exeter menganalisis bagaimana sistem AI generatif dapat berkontribusi pada keyakinan keliru selama percakapan. Studi tersebut menggunakan teori kognisi terdistribusi untuk menunjukkan bahwa AI sering kali justru mengafirmasi dan mengembangkan interpretasi pengguna yang tidak akurat tentang realitas, bukannya menantang interpretasi tersebut.