Deloitte reembolsará governo australiano por relatório alucinado por IA
A Deloitte Australia concordou em reembolsar parcialmente o governo por um relatório de US$ 440.000 repleto de citações fabricadas geradas por IA. A empresa admitiu discretamente o uso do GPT-4o após erros serem descobertos no documento que revisava sistemas de conformidade de bem-estar social. Críticos questionam a confiabilidade do relatório apesar de garantias oficiais de que seus achados principais permanecem intactos.
Em julho de 2025, a Deloitte Australia finalizou sua "Targeted Compliance Framework Assurance Review", um documento de 273 páginas encomendado pelo Departamento de Emprego e Relações de Trabalho (DEWR) para avaliar o sistema automatizado de penalidades do governo para conformidade de bem-estar social. Custando quase 440.000 AUD (cerca de 290.000 USD) aos contribuintes, o relatório foi publicado em agosto.
Logo após a publicação, Chris Rudge, vice-diretor de direito da saúde na Universidade de Sydney, identificou múltiplas citações inexistentes, incluindo referências fabricadas a artigos da professora da Universidade de Sydney Lisa Burton Crawford. "É preocupante ver pesquisa atribuída a mim dessa forma", disse Crawford ao Australian Financial Review em agosto. "Gostaria de ver uma explicação da Deloitte sobre como as citações foram geradas."
Uma versão atualizada do relatório, lançada em 3 de outubro de 2025, abordou "um pequeno número de correções em referências e notas de rodapé". Na página 58, a Deloitte revelou o uso de "uma cadeia de ferramentas baseada em modelo de linguagem grande de IA generativa (Azure OpenAI GPT-4o)" para avaliar se o código do sistema se alinha com os requisitos de negócios e necessidades de conformidade. O relatório original citava 141 fontes, mas a atualização reduziu para 127, removendo referências falsas ao trabalho de Crawford e uma citação fabricada da juíza federal Jennifer Davies (originalmente soletrada incorretamente como "Davis").
A Deloitte reembolsará a parcela final de seu contrato, embora o valor exato não esteja claro. Um porta-voz do DEWR afirmou que "a substância da revisão independente é mantida, e não há alterações nas recomendações". No entanto, Rudge criticou o processo, dizendo: "você não pode confiar nas recomendações quando a própria base do relatório é construída sobre uma metodologia falha, originalmente não divulgada e não especializada... A Deloitte admitiu usar IA generativa para uma tarefa analítica central; mas falhou em divulgá-la em primeiro lugar."
Este incidente destaca as crescentes preocupações com o uso de IA em serviços profissionais, particularmente aplicações não divulgadas em trabalhos governamentais de alto risco.