Des chercheurs de l'Université de Pennsylvanie ont identifié une « reddition cognitive », phénomène par lequel les individus délèguent leur raisonnement à l'IA sans vérification. Lors d'expériences menées auprès de 1 372 participants, ces derniers ont accepté des réponses incorrectes de l'IA dans 73,2 % des cas. Des facteurs tels que la contrainte temporelle ont accentué cette dépendance à des résultats erronés.
Une nouvelle étude de l'Université de Pennsylvanie explore la manière dont les grands modèles de langage incitent les utilisateurs à abandonner leur propre réflexion logique, qualifiant ce phénomène de « reddition cognitive ». Les travaux s'appuient sur la théorie des processus duaux et introduisent la « cognition artificielle » comme un troisième mode où les décisions découlent des résultats de l'IA plutôt que de la délibération humaine. Contrairement aux outils traditionnels comme les calculatrices, l'IA invite à une acceptation totale de ses réponses formulées avec assurance, souvent sans aucune supervision, notent les chercheurs. Ils ont mené des expériences basées sur des tests de réflexion cognitive, où les participants avaient accès à un chatbot programmé pour fournir des réponses erronées une fois sur deux. Ceux qui consultaient l'IA l'ont utilisée pour environ 50 % des problèmes, acceptant les bonnes réponses dans 93 % des cas et les réponses erronées dans 80 % des cas. Malgré les erreurs, les utilisateurs de l'IA ont rapporté une confiance en leurs réponses supérieure de 11,7 % par rapport à ceux s'appuyant uniquement sur leur propre réflexion. Les incitations à donner des réponses correctes ont augmenté le rejet des mauvais conseils de l'IA de 19 points de pourcentage, tandis qu'un minuteur de 30 secondes l'a réduit de 12 points. Sur plus de 9 500 essais, les participants n'ont rejeté l'IA défaillante que dans 19,7 % des cas. Les personnes dotées d'une intelligence fluide élevée étaient moins enclines à la reddition, tandis que celles percevant l'IA comme une autorité y étaient plus sensibles. Les chercheurs avertissent que si cette reddition est risquée avec une IA imparfaite, elle pourrait s'avérer bénéfique grâce à des systèmes supérieurs dans les domaines riches en données.
