OpenAI melaporkan peningkatan dramatis dalam insiden eksploitasi anak, mengirimkan 80 kali lebih banyak laporan ke National Center for Missing & Exploited Children pada paruh pertama 2025 dibandingkan periode yang sama di 2024. Lonjakan ini menyoroti tantangan yang semakin besar dalam moderasi konten untuk platform AI. Laporan tersebut disalurkan melalui CyberTipline NCMEC, sumber daya kunci untuk menangani materi penyalahgunaan seksual anak.
Dalam pembaruan baru-baru ini, OpenAI mengungkapkan peningkatan signifikan dalam deteksi dan pelaporan kasus eksploitasi anak. Selama enam bulan pertama 2025, perusahaan tersebut meneruskan 80 kali lebih banyak laporan insiden tersebut ke National Center for Missing & Exploited Children (NCMEC) dibandingkan dengan periode setara di 2024. Peningkatan yang mencolok ini menggarisbawahi upaya yang semakin intensif dari perusahaan teknologi untuk memerangi bahaya online yang melibatkan anak di bawah umur.
CyberTipline NCMEC berfungsi sebagai pusat yang berwenang oleh Kongres untuk menerima tip tentang materi penyalahgunaan seksual anak (CSAM) dan bentuk eksploitasi lainnya. Dibentuk untuk menyederhanakan respons terhadap ancaman ini, ia bergantung pada kontribusi dari perusahaan seperti OpenAI, yang menggunakan alat berbasis AI untuk memindai dan menandai konten mencurigakan di platform mereka. Meskipun jumlah laporan spesifik tidak dirinci dalam pembaruan, efek penggandaan—80 kali lipat—menandakan potensi peningkatan prevalensi materi tersebut atau kemampuan deteksi yang lebih baik.
Pekerjaan OpenAI di bidang ini sejalan dengan tren industri yang lebih luas menuju langkah-langkah keamanan yang ditingkatkan untuk chatbot dan sistem AI generatif. Kata kunci terkait laporan mencakup keamanan, anak-anak, regulasi, dan moderasi konten, mencerminkan diskusi berkelanjutan tentang peran AI dalam melindungi pengguna rentan. Seiring evolusi teknologi AI, mekanisme pelaporan ini memainkan peran krusial dalam mendukung penegakan hukum dan upaya pencegahan terhadap eksploitasi anak.
