Deloitte reembolsará al gobierno australiano por informe alucinado por IA
Deloitte Australia ha acordado reembolsar parcialmente al gobierno por un informe de 440.000 dólares plagado de citas fabricadas generadas por IA. La firma admitió discretamente el uso de GPT-4o después de que se descubrieran errores en el documento que revisaba los sistemas de cumplimiento de prestaciones sociales. Los críticos cuestionan la fiabilidad del informe a pesar de las garantías oficiales de que sus hallazgos principales siguen intactos.
En julio de 2025, Deloitte Australia finalizó su "Revisión de Aseguramiento del Marco de Cumplimiento Objetivo", un documento de 273 páginas encargado por el Departamento de Empleo y Relaciones Laborales (DEWR) para evaluar el sistema automatizado de sanciones del gobierno para el cumplimiento de prestaciones sociales. Con un costo para los contribuyentes de casi 440.000 AUD (alrededor de 290.000 USD), el informe se publicó en agosto.
Poco después de la publicación, Chris Rudge, subdirector de derecho de la salud en la Universidad de Sídney, identificó múltiples citas inexistentes, incluidas referencias fabricadas a artículos de la profesora de la Universidad de Sídney Lisa Burton Crawford. "Es preocupante ver investigación atribuida a mí de esta manera", dijo Crawford al Australian Financial Review en agosto. "Me gustaría ver una explicación de Deloitte sobre cómo se generaron las citas."
Una versión actualizada del informe, lanzada el 3 de octubre de 2025, abordó "un pequeño número de correcciones a referencias y notas al pie". En la página 58, Deloitte reveló el uso de "una cadena de herramientas basada en un modelo de lenguaje grande de IA generativa (Azure OpenAI GPT-4o)" para evaluar si el código del sistema se alinea con los requisitos comerciales y las necesidades de cumplimiento. El informe original citaba 141 fuentes, pero la actualización lo redujo a 127, eliminando referencias falsas al trabajo de Crawford y una cita fabricada de la jueza federal Jennifer Davies (originalmente mal escrita como "Davis").
Deloitte reembolsará la cuota final de su contrato, aunque la cantidad exacta no está clara. Un portavoz del DEWR declaró que "la sustancia de la revisión independiente se mantiene, y no hay cambios en las recomendaciones". Sin embargo, Rudge criticó el proceso, diciendo: "no se pueden confiar en las recomendaciones cuando la base misma del informe se construye sobre una metodología defectuosa, originalmente no divulgada y no experta... Deloitte ha admitido usar IA generativa para una tarea analítica central; pero falló en divulgarlo en primer lugar."
Este incidente resalta las crecientes preocupaciones sobre el uso de IA en servicios profesionales, particularmente aplicaciones no divulgadas en trabajos gubernamentales de alto riesgo.