Bisnis menghadapi ancaman yang semakin besar dari karyawan yang menggunakan alat AI canggih untuk membuat kwitansi pengeluaran palsu yang realistis. Platform manajemen pengeluaran melaporkan peningkatan tajam dalam upaya penipuan semacam itu sejak peluncuran model pembangkit gambar yang ditingkatkan. Perusahaan kini mengandalkan sistem deteksi AI untuk memerangi penipuan tersebut.
Kemunculan model AI pembangkit gambar canggih dari perusahaan seperti OpenAI dan Google telah memudahkan karyawan untuk mengajukan laporan pengeluaran palsu. Menurut penyedia perangkat lunak pengeluaran AppZen, kwitansi palsu yang dihasilkan AI menyumbang sekitar 14% upaya penipuan pada September, naik dari nol pada tahun sebelumnya. Perusahaan fintech Ramp melaporkan mendeteksi lebih dari 1 juta dolar dalam invoice palsu dalam 90 hari menggunakan perangkat lunak barunya.
Survei oleh platform manajemen pengeluaran Medius menemukan bahwa 30% profesional keuangan di AS dan Inggris mengamati peningkatan kwitansi palsu setelah rilis GPT-4o OpenAI tahun lalu. Tren ini mempercepat setelah OpenAI meluncurkan model pembangkit gambar yang ditingkatkan untuk GPT-4o pada Maret. "Kwitansi ini menjadi sangat bagus, kami memberi tahu pelanggan kami, 'jangan percaya mata Anda,'" kata Chris Juneau, wakil presiden senior dan kepala pemasaran produk untuk SAP Concur, yang melakukan lebih dari 80 juta pemeriksaan kepatuhan berbasis AI setiap bulan.
Sebelumnya, membuat dokumen palsu memerlukan keterampilan pengeditan foto atau layanan berbayar, tetapi sekarang chatbot AI gratis memungkinkan pengguna menghasilkan kwitansi meyakinkan dalam hitungan detik melalui prompt teks sederhana. Contoh yang dibagikan oleh platform menunjukkan gambar dengan kerutan realistis, itemisasi menu terperinci yang cocok dengan venue nyata, dan bahkan tanda tangan. OpenAI menyatakan bahwa ia mengambil tindakan terhadap pelanggaran kebijakan dan menyertakan metadata dalam gambarnya yang menunjukkan pembuatan oleh ChatGPT.
"Ini bukan ancaman masa depan; itu sudah terjadi. Meskipun saat ini hanya persentase kecil dari kwitansi tidak patuh yang dihasilkan AI, ini hanya akan tumbuh," memperingatkan Sebastien Marchon, kepala eksekutif Rydoo. Untuk melawan ini, platform seperti Ramp dan SAP Concur menggunakan AI untuk memindai metadata gambar untuk asal AI — meskipun pengguna dapat melewatinya dengan memotret atau mengambil tangkapan layar gambar. Deteksi juga melibatkan pemeriksaan detail kontekstual, seperti nama server yang berulang atau cap waktu, dan data perjalanan karyawan.
"Teknologi dapat melihat segalanya dengan detail tinggi fokus dan perhatian yang manusia, setelah periode waktu, hal-hal jatuh melalui celah, mereka manusia," catat Calvin Lee, direktur senior manajemen produk di Ramp. Studi SAP Juli mengungkapkan bahwa hampir 70% kepala keuangan mencurigai karyawan menggunakan AI untuk memalsukan pengeluaran perjalanan atau kwitansi, dengan 10% yakin itu telah terjadi. Mason Wilder, direktur penelitian di Association of Certified Fraud Examiners, menggambarkan kwitansi palsu yang dihasilkan AI sebagai "masalah signifikan bagi organisasi," menambahkan, "Tidak ada hambatan masuk bagi orang untuk melakukan ini. Anda tidak memerlukan keterampilan atau kecakapan teknologi apa pun seperti yang mungkin Anda butuhkan lima tahun lalu menggunakan Photoshop."