Empresas enfrentam uma ameaça crescente de funcionários usando ferramentas avançadas de IA para criar recibos de despesas falsos realistas. Plataformas de gerenciamento de despesas relatam um aumento acentuado em tentativas de fraude desse tipo desde o lançamento de modelos aprimorados de geração de imagens. As empresas agora dependem de sistemas de detecção de IA para combater o engano.
O surgimento de modelos sofisticados de IA geradora de imagens de empresas como OpenAI e Google facilitou que os funcionários submetam relatórios de despesas fraudulentos. De acordo com o fornecedor de software de despesas AppZen, recibos falsos gerados por IA representaram cerca de 14% das tentativas de fraude em setembro, um aumento em relação a nenhum no ano anterior. A empresa fintech Ramp relatou que identificou mais de 1 milhão de dólares em faturas fraudulentas em 90 dias usando seu novo software.
Uma pesquisa da plataforma de gerenciamento de despesas Medius descobriu que 30% dos profissionais financeiros nos EUA e no Reino Unido observaram um aumento em recibos falsificados após o lançamento do GPT-4o da OpenAI no ano passado. A tendência acelerou após a OpenAI lançar um modelo aprimorado de geração de imagens para o GPT-4o em março. "Esses recibos ficaram tão bons que dizemos aos nossos clientes: 'não confiem nos seus olhos'," disse Chris Juneau, vice-presidente sênior e chefe de marketing de produtos da SAP Concur, que realiza mais de 80 milhões de verificações de conformidade impulsionadas por IA mensalmente.
Anteriormente, criar documentos falsos exigia habilidades de edição de fotos ou serviços pagos, mas agora chatbots de IA gratuitos permitem que os usuários gerem recibos convincentes em segundos por meio de prompts de texto simples. Exemplos compartilhados por plataformas mostram imagens com rugas realistas, itemizações detalhadas de menus que correspondem a locais reais e até assinaturas. A OpenAI afirmou que toma medidas contra violações de políticas e inclui metadados em suas imagens indicando a criação pelo ChatGPT.
"Isso não é uma ameaça futura; já está acontecendo. Embora atualmente apenas uma pequena porcentagem de recibos não conformes seja gerada por IA, isso só vai crescer," alertou Sebastien Marchon, diretor executivo da Rydoo. Para combater isso, plataformas como Ramp e SAP Concur usam IA para escanear metadados de imagens em busca de origens de IA — embora os usuários possam contornar isso fotografando ou tirando capturas de tela das imagens. A detecção também envolve a verificação de detalhes contextuais, como nomes de servidores repetidos ou carimbos de tempo, e dados de viagens de funcionários.
"A tecnologia pode olhar para tudo com altos detalhes de foco e atenção que os humanos, após um período de tempo, as coisas escapam pelas frestas, eles são humanos," observou Calvin Lee, diretor sênior de gerenciamento de produtos na Ramp. Um estudo da SAP de julho revelou que quase 70% dos diretores financeiros suspeitam que os funcionários estejam usando IA para falsificar despesas de viagem ou recibos, com 10% certos de que isso ocorreu. Mason Wilder, diretor de pesquisa da Association of Certified Fraud Examiners, descreveu os recibos fraudulentos gerados por IA como uma "questão significativa para as organizações," adicionando: "Não há barreira de entrada para as pessoas fazerem isso. Você não precisa de nenhum tipo de habilidade ou aptidão tecnológica como talvez precisasse há cinco anos usando o Photoshop."