Investigadores de la Universidad de Pensilvania han identificado la "rendición cognitiva", un fenómeno en el que las personas delegan el razonamiento a la IA sin verificarlo. En experimentos realizados con 1.372 participantes, estos aceptaron respuestas incorrectas de la IA el 73,2 por ciento de las veces. Factores como la presión temporal aumentaron la dependencia de resultados defectuosos.
Un nuevo estudio de la Universidad de Pensilvania explora cómo los modelos de lenguaje a gran escala inducen a los usuarios a abandonar su propio pensamiento lógico, denominando al fenómeno "rendición cognitiva". La investigación se basa en la teoría del proceso dual e introduce la "cognición artificial" como un tercer modo, donde las decisiones provienen de los resultados de la IA en lugar de la deliberación humana. A diferencia de las herramientas tradicionales como las calculadoras, la IA invita a una aceptación total de sus respuestas seguras, a menudo sin supervisión, señalan los investigadores. Realizaron experimentos utilizando pruebas de reflexión cognitiva, donde los participantes tenían acceso a un chatbot programado para dar respuestas incorrectas la mitad de las veces. Aquellos que consultaron a la IA la utilizaron en aproximadamente el 50 por ciento de los problemas, aceptando las respuestas correctas el 93 por ciento de las veces y las erróneas el 80 por ciento. A pesar de los errores, los usuarios de IA reportaron un 11,7 por ciento más de confianza en sus respuestas en comparación con aquellos que confiaron únicamente en su propio criterio. Los incentivos por respuestas correctas aumentaron el rechazo de los malos consejos de la IA en 19 puntos porcentuales, mientras que un temporizador de 30 segundos lo redujo en 12 puntos. En más de 9.500 ensayos, los participantes rechazaron la IA defectuosa solo el 19,7 por ciento de las veces. Las personas con una alta inteligencia fluida fueron menos propensas a rendirse, mientras que aquellas que veían a la IA como una autoridad fueron más susceptibles. Los investigadores advierten que, si bien es arriesgado con una IA imperfecta, la rendición cognitiva podría ser beneficiosa con sistemas superiores en dominios con gran cantidad de datos.
