تواجه الشركات تهديدًا متزايدًا من الموظفين الذين يستخدمون أدوات ذكاء اصطناعي متقدمة لإنشاء إيصالات مصروفات مزيفة واقعية. تقارير المنصات الإدارية للمصروفات عن زيادة حادة في محاولات الاحتيال هذه منذ إطلاق نماذج تحسين إنتاج الصور. تعتمد الشركات الآن على أنظمة كشف الذكاء الاصطناعي لمكافحة الخداع.
ظهور نماذج ذكاء اصطناعي متقدمة لتوليد الصور من شركات مثل OpenAI وGoogle جعل من السهل على الموظفين تقديم تقارير مصروفات احتيالية. وفقًا لمزود برمجيات المصروفات AppZen، شكلت الإيصالات المزيفة المولدة بالذكاء الاصطناعي حوالي 14% من محاولات الاحتيال في سبتمبر، ارتفاعًا من صفر في العام السابق. أفادت شركة التقنية المالية Ramp بأنها حددت أكثر من مليون دولار في فواتير احتيالية خلال 90 يومًا باستخدام برمجياتها الجديدة.
وجدت استطلاع أجراه منصة إدارة المصروفات Medius أن 30% من المحترفين الماليين في الولايات المتحدة والمملكة المتحدة لاحظوا ارتفاعًا في الإيصالات المزورة بعد إصدار GPT-4o من OpenAI العام الماضي. تسارعت الاتجاه بعد إطلاق OpenAI لنموذج تحسين إنتاج الصور لـGPT-4o في مارس. «أصبحت هذه الإيصالات جيدة جدًا، نقول لعملائنا 'لا تثقوا بعيونكم'»، قال كريس جونو، نائب الرئيس الأول ورئيس تسويق المنتجات في SAP Concur، التي تجري أكثر من 80 مليون فحص امتثال مدعوم بالذكاء الاصطناعي شهريًا.
سابقًا، كان إنشاء وثائق مزيفة يتطلب مهارات تحرير الصور أو خدمات مدفوعة، لكن الآن تسمح الروبوتات الدردشة المجانية بالذكاء الاصطناعي للمستخدمين بتوليد إيصالات مقنعة في ثوانٍ عبر تعليمات نصية بسيطة. تظهر الأمثلة المشتركة من المنصات صورًا مع تجاعيد واقعية، وتفاصيل تفصيلية لقوائم الطعام تطابق الأماكن الحقيقية، وحتى توقيعات. أفادت OpenAI بأنها تتخذ إجراءات ضد انتهاكات السياسات وتشمل بيانات وصفية في صورها تشير إلى الإنشاء بواسطة ChatGPT.
«هذا ليس تهديدًا مستقبليًا؛ إنه يحدث بالفعل. بينما حاليًا يشكل نسبة صغيرة فقط من الإيصالات غير المتوافقة مولدة بالذكاء الاصطناعي، فإن هذا سيزداد فقط»، حذر سيباستيان مارشون، المدير التنفيذي لـRydoo. لمواجهة ذلك، تستخدم منصات مثل Ramp وSAP Concur الذكاء الاصطناعي لفحص بيانات وصف الصور بحثًا عن أصول الذكاء الاصطناعي — على الرغم من أن المستخدمين يمكنهم تجاوز ذلك بالتصوير أو التقاط لقطات شاشة للصور. تشمل الكشف أيضًا التحقق من التفاصيل السياقية، مثل أسماء الخوادم المتكررة أو الطوابع الزمنية، وبيانات سفر الموظفين.
«يمكن للتكنولوجيا النظر في كل شيء بتفاصيل عالية من التركيز والانتباه التي يفقد فيها البشر، بعد فترة من الوقت، الأمور تسقط من خلال الشقوق، إنهم بشر»، لاحظ كالفن لي، المدير الأول لإدارة المنتجات في Ramp. كشف دراسة لـSAP في يوليو أن ما يقرب من 70% من المديرين الماليين التنفيذيين يشتبهون في أن الموظفين يستخدمون الذكاء الاصطناعي لتزييف مصروفات السفر أو الإيصالات، مع 10% متأكدين من حدوث ذلك. وصف ميسون وايلدر، مدير البحوث في جمعية محققي الاحتيال المعتمدين، الإيصالات الاحتيالية المولدة بالذكاء الاصطناعي بأنها «قضية كبيرة للمنظمات»، مضيفًا: «لا يوجد حاجز دخول للناس للقيام بذلك. لا تحتاج إلى أي نوع من المهارات أو القدرة التكنولوجية مثل التي ربما كنت بحاجة إليها قبل خمس سنوات باستخدام Photoshop.»