デロイト、オーストラリア政府にAI幻覚レポートの返金へ
デロイト・オーストラリアは、AIが生成した捏造引用だらけの44万ドルレポートについて、政府に一部返金することで合意した。同社は、福祉遵守システムをレビューする文書でエラーが発見された後、GPT-4oの使用を静かに認めた。批評家らは、公式の保証にもかかわらず、レポートの信頼性を疑問視している。主要な発見は無傷のままだという。
2025年7月、デロイト・オーストラリアは「Targeted Compliance Framework Assurance Review」を完成させた。これは、雇用・労働関係省（DEWR）が委託した273ページの文書で、政府の福祉遵守のための自動罰金システムを評価するものだ。納税者にほぼ44万豪ドル（約29万米ドル）の費用がかかり、8月に公開された。
公開直後、シドニー大学の保健法副所長クリス・ラッジ氏が、複数の存在しない引用を特定した。これには、シドニー大学教授リサ・バートン・クロフォード氏の論文への捏造参照が含まれていた。「このような形で私の研究が帰属されるのは懸念すべきことです」とクロフォード氏は8月にオーストラリアン・フィナンシャル・レビューに語った。「デロイトから引用の生成方法についての説明を見たいと思います。」
2025年10月3日にリリースされた更新版レポートは、「参照と脚注の少数の修正」を扱った。58ページで、デロイトは「システムコードがビジネス要件と遵守ニーズに適合するかを評価するための、生成AI大規模言語モデル（Azure OpenAI GPT-4o）ベースのツールチェーン」の使用を明らかにした。元のレポートは141のソースを引用していたが、更新版では127に減少し、クロフォード氏の仕事への偽の参照と連邦判事ジェニファー・デイビス氏（元々「デイビス」と誤記）の捏造引用を削除した。
デロイトは契約の最終回払いを返金するが、正確な金額は不明だ。DEWRの報道官は「独立レビューの中身は維持されており、推奨事項に変更はない」と述べた。しかし、ラッジ氏はプロセスを批判し、「レポートの基盤自体が欠陥があり、最初に非公開で非専門的な方法論に基づいている場合、推奨事項を信頼できない...デロイトは中核的な分析タスクで生成AIを使用したことを認めたが、最初に開示しなかった」と語った。
この事件は、プロフェッショナルサービスにおけるAI使用、特に高リスクの政府業務での非開示アプリケーションに対する懸念を強調している。