企業は、従業員が先進的なAIツールを使用して現実的な偽の経費領収書を作成する脅威に直面しています。経費管理プラットフォームは、改良された画像生成モデルの発売以降、このような詐欺行為の試みが急増したと報告しています。企業は今、欺瞞に対抗するためにAI検出システムに頼っています。
OpenAIやGoogleなどの企業による洗練された画像生成AIモデルの登場により、従業員が詐欺的な経費報告を提出しやすくなりました。経費ソフトウェアプロバイダーのAppZenによると、AI生成の偽領収書は9月に詐欺試みの約14%を占め、前年はゼロでした。フィンテック企業Rampは、新しいソフトウェアを使用して90日以内に100万ドル以上の詐欺的な請求書を検知したと報告しました。
経費管理プラットフォームMediusの調査では、米国と英国の財務専門家の30%が、昨年OpenAIのGPT-4oのリリース後に偽造領収書の増加を観察したことがわかりました。この傾向は、OpenAIが3月にGPT-4o向けの改良された画像生成モデルを発売した後、加速しました。「これらの領収書は非常に良くなったので、顧客に『目だけを信じないで』と伝えます」と、SAP Concurのシニアバイスプレジデント兼製品マーケティング責任者のChris Juneau氏は述べました。同社は毎月8,000万件以上のAI駆動のコンプライアンスチェックを実施しています。
以前、偽の文書の作成には写真編集スキルや有料サービスが必要でしたが、今では無料のAIチャットボットが、簡単なテキストプロンプトで数秒以内に説得力のある領収書を生成できます。プラットフォームが共有した例では、現実的なしわ、実際の会場に一致する詳細なメニュー項目化、さらには署名付きの画像が示されています。OpenAIは、ポリシー違反に対して措置を講じ、ChatGPTによる作成を示すメタデータを画像に含めていると述べました。
「これは将来の脅威ではなく、すでに起こっています。現在、非準拠の領収書のわずかな割合しかAI生成ではありませんが、これはさらに増えるでしょう」と、RydooのCEOであるSebastien Marchon氏は警告しました。これに対抗するため、RampやSAP Concurなどのプラットフォームは、AIを使用して画像のメタデータをスキャンしてAIの起源を検知しますが、ユーザーは画像を撮影したりスクリーンショットを撮ったりすることでこれを回避できます。検知には、繰り返されるサーバー名やタイムスタンプなどの文脈的詳細や、従業員の旅行データの確認も含まれます。
「技術は、人間が時間とともに見落とすような、高い詳細度、焦点、注意を持ってすべてを調べることができます。彼らは人間です」と、Rampの製品管理シニアディレクターであるCalvin Lee氏は指摘しました。7月のSAPの調査では、財務責任者のほぼ70%が従業員がAIを使用して旅行経費や領収書を偽造していると疑っており、10%がそれが発生したと確信しています。Association of Certified Fraud Examinersの研究ディレクターであるMason Wilder氏は、AI生成の詐欺領収書を「組織にとって重要な問題」と表現し、「これを行うための参入障壁はゼロです。5年前にPhotoshopを使用する場合のように、技術スキルや適性は必要ありません」と付け加えました。