ديلويت تعيد المبلغ للحكومة الأسترالية بسبب تقرير مولد بالذكاء الاصطناعي وهمي
وافقت ديلويت أستراليا على إعادة جزء من المبلغ للحكومة مقابل تقرير بقيمة 440,000 دولار مليء بالاستشهادات المزيفة المولدة بواسطة الذكاء الاصطناعي. اعترفت الشركة بهدوء باستخدام GPT-4o بعد اكتشاف أخطاء في الوثيقة التي تراجع أنظمة الامتثال للرعاية الاجتماعية. يشكك النقاد في موثوقية التقرير رغم الضمانات الرسمية بأن النتائج الأساسية لا تزال سليمة.
في يوليو 2025، أكملت ديلويت أستراليا تقريرها "مراجعة ضمان إطار الامتثال المستهدف"، وهو وثيقة مكونة من 273 صفحة أُوكلت من قبل وزارة التوظيف وعلاقات العمل (DEWR) لتقييم نظام الغرامات الآلي للحكومة في الامتثال للرعاية الاجتماعية. والذي كلف دافعي الضرائب نحو 440,000 دولار أسترالي (حوالي 290,000 دولار أمريكي)، تم نشر التقرير في أغسطس.
بعد فترة قصيرة من النشر، حدد كريس رادج، نائب مدير قانون الصحة في جامعة سيدني، عدة استشهادات غير موجودة، بما في ذلك مراجع مزيفة لأوراق بحثية لأستاذة جامعة سيدني ليزا بيرتون كروفورد. "من المقلق رؤية بحث منسوب إلي بهذه الطريقة"، قالت كروفورد للأستراليان فاينانشيال ريفيو في أغسطس. "أود رؤية تفسير من ديلويت حول كيفية توليد الاستشهادات."
تم إصدار نسخة محدثة من التقرير في 3 أكتوبر 2025، والتي تناولت "عدد صغير من التصحيحات للإشارات والحواشي". في الصفحة 58، كشفت ديلويت عن استخدام "سلسلة أدوات مبنية على نموذج لغة كبير للذكاء الاصطناعي التوليدي (Azure OpenAI GPT-4o)" لتقييم ما إذا كان كود النظام يتوافق مع متطلبات الأعمال واحتياجات الامتثال. التقرير الأصلي استشهد بـ141 مصدرًا، لكن التحديث خفض ذلك إلى 127، مع إزالة الإشارات المزيفة إلى عمل كروفورد ونقلة مزيفة من القاضية الفيدرالية جينيفر ديفيس (التي كُتبت خطأً في الأصل كـ"ديفيس").
ستعيد ديلويت الدفعة النهائية من عقدها، على الرغم من عدم وضوح المبلغ الدقيق. قال متحدث باسم DEWR إن "جوهر المراجعة المستقلة محتفظ به، ولا توجد تغييرات في التوصيات". ومع ذلك، انتقد رادج العملية، قائلاً: "لا يمكن الثقة بالتوصيات عندما تكون الأساس نفسه للتقرير مبنيًا على منهجية معيبة، غير معلنة أصلاً، وغير متخصصة... اعترفت ديلويت باستخدام الذكاء الاصطناعي التوليدي لمهمة تحليلية أساسية؛ لكنها فشلت في الكشف عن ذلك في البداية."
يبرز هذا الحادث المخاوف المتزايدة بشأن استخدام الذكاء الاصطناعي في الخدمات المهنية، خاصة التطبيقات غير المعلنة في أعمال حكومية عالية المخاطر.