Företag står inför ett växande hot från anställda som använder avancerade AI-verktyg för att skapa realistiska falska kvitton för utgifter. Plattformar för utgifts hantering rapporterar en skarp ökning i sådana bedrägeriförsök sedan lanseringen av förbättrade bildgenereringsmodeller. Företag förlitar sig nu på AI-detektionssystem för att bekämpa bedrägeriet.
Framkomsten av sofistikerade AI-modeller för bildgenerering från företag som OpenAI och Google har gjort det enklare för anställda att lämna in bedrägliga utgiftsrapporter. Enligt utgiftsprogramleverantören AppZen stod AI-genererade falska kvitton för cirka 14% av bedrägeriförsöken i september, upp från inget året innan. Fintech-företaget Ramp rapporterade att det flaggade mer än 1 miljon dollar i bedrägliga fakturor inom 90 dagar med sin nya mjukvara.
En undersökning av utgiftshanteringsplattformen Medius visade att 30% av finansiella yrkesverksamma i USA och Storbritannien observerade en ökning i förfalskade kvitton efter lanseringen av OpenAI:s GPT-4o förra året. Trenden accelererade efter att OpenAI lanserade en förbättrad bildgenereringsmodell för GPT-4o i mars. "Dessa kvitton har blivit så bra att vi säger till våra kunder: 'lita inte på era ögon'," sade Chris Juneau, senior vice president och chef för produktmarknadsföring på SAP Concur, som utför över 80 miljoner AI-drivna efterlevnadskontroller månadsvis.
Tidigare krävdes fotoredigeringsfärdigheter eller betalda tjänster för att skapa falska dokument, men nu tillåter gratis AI-chattbotar användare att generera övertygande kvitton på sekunder via enkla textprompts. Exempel som delas av plattformar visar bilder med realistiska veck, detaljerade menyalster som matchar verkliga lokaler och till och med signaturer. OpenAI uppgav att det vidtar åtgärder mot policybrott och inkluderar metadata i sina bilder som indikerar skapande av ChatGPT.
"Detta är inte ett framtida hot; det händer redan. Även om för närvarande bara en liten procentandel av icke-kompatibla kvitton är AI-genererade, kommer detta bara att växa," varnade Sebastien Marchon, VD för Rydoo. För att motverka detta använder plattformar som Ramp och SAP Concur AI för att skanna bildmetadata för AI-ursprung — även om användare kan kringgå detta genom att fotografera eller ta skärmdumpar av bilderna. Detektion involverar också kontroll av kontextuella detaljer, såsom upprepade servernamn eller tidsstämplar, och anställdas resedata.
"Tekniken kan titta på allt med höga detaljer av fokus och uppmärksamhet som människor, efter en period av tid, saker faller igenom sprickorna, de är mänskliga," noterade Calvin Lee, senior direktör för produktledning på Ramp. En SAP-studie i juli avslöjade att nästan 70% av finanschefer misstänker att anställda använder AI för att förfalska resor eller kvitton, med 10% säkra på att det har skett. Mason Wilder, forskningsdirektör vid Association of Certified Fraud Examiners, beskrev AI-genererade bedrägliga kvitton som en "betydande fråga för organisationer," och tillade: "Det finns noll barriär för inträde för människor att göra detta. Du behöver inte någon sorts tekniska färdigheter eller lämplighet som du kanske behövde för fem år sedan med Photoshop."