Las empresas enfrentan una amenaza creciente por parte de empleados que utilizan herramientas avanzadas de IA para crear recibos de gastos falsos realistas. Las plataformas de gestión de gastos informan de un fuerte aumento en tales intentos de fraude desde el lanzamiento de modelos mejorados de generación de imágenes. Las compañías ahora dependen de sistemas de detección de IA para combatir el engaño.
La aparición de modelos sofisticados de IA generadora de imágenes de empresas como OpenAI y Google ha facilitado que los empleados presenten informes de gastos fraudulentos. Según el proveedor de software de gastos AppZen, los recibos falsos generados por IA representaron alrededor del 14% de los intentos de fraude en septiembre, un aumento desde ninguno el año anterior. La firma fintech Ramp informó de que detectó más de 1 millón de dólares en facturas fraudulentas en 90 días utilizando su nuevo software.
Una encuesta de la plataforma de gestión de gastos Medius encontró que el 30% de los profesionales financieros en EE.UU. y el Reino Unido observaron un aumento en recibos falsificados tras el lanzamiento de GPT-4o de OpenAI el año pasado. La tendencia se aceleró después de que OpenAI lanzara un modelo mejorado de generación de imágenes para GPT-4o en marzo. «Estos recibos se han vuelto tan buenos que les decimos a nuestros clientes: 'no confíen en sus ojos'», dijo Chris Juneau, vicepresidente senior y responsable de marketing de productos de SAP Concur, que realiza más de 80 millones de verificaciones de cumplimiento impulsadas por IA mensualmente.
Anteriormente, crear documentos falsos requería habilidades de edición de fotos o servicios pagos, pero ahora los chatbots de IA gratuitos permiten a los usuarios generar recibos convincentes en segundos mediante simples indicaciones de texto. Los ejemplos compartidos por las plataformas muestran imágenes con arrugas realistas, itemizaciones detalladas de menús que coinciden con locales reales e incluso firmas. OpenAI afirmó que toma medidas contra violaciones de políticas e incluye metadatos en sus imágenes que indican la creación por ChatGPT.
«Esto no es una amenaza futura; ya está ocurriendo. Aunque actualmente solo un pequeño porcentaje de recibos no conformes son generados por IA, esto solo va a crecer», advirtió Sebastien Marchon, director ejecutivo de Rydoo. Para contrarrestar esto, plataformas como Ramp y SAP Concur utilizan IA para escanear metadatos de imágenes en busca de orígenes de IA, aunque los usuarios pueden eludir esto fotografiando o capturando pantallas de las imágenes. La detección también implica verificar detalles contextuales, como nombres de servidores repetidos o marcas de tiempo, y datos de viajes de empleados.
«La tecnología puede examinar todo con altos niveles de detalle, enfoque y atención que los humanos, después de un período de tiempo, dejan pasar cosas, son humanos», señaló Calvin Lee, director senior de gestión de productos en Ramp. Un estudio de SAP de julio reveló que casi el 70% de los directores financieros sospechan que los empleados están utilizando IA para falsificar gastos de viaje o recibos, con un 10% convencido de que ha ocurrido. Mason Wilder, director de investigación de la Association of Certified Fraud Examiners, describió los recibos fraudulentos generados por IA como un «problema significativo para las organizaciones», agregando: «No hay barrera de entrada para que la gente haga esto. No necesitas ningún tipo de habilidades o aptitud tecnológica como quizás habrías necesitado hace cinco años usando Photoshop.»