OpenAI har rapporterat en dramatisk ökning av barnexploateringsincidenter och lämnat in 80 gånger fler rapporter till National Center for Missing & Exploited Children under första halvåret 2025 jämfört med samma period 2024. Denna ökning belyser växande utmaningar inom innehållsmoderering för AI-plattformar. Rapporterna kanaliseras via NCMEC:s CyberTipline, en nyckelresurs för att hantera material med sexuella övergrepp mot barn.
I en nylig uppdatering avslöjade OpenAI en betydande eskalering i upptäckt och rapportering av barnexploateringsfall. Under de första sex månaderna av 2025 vidarebefordrade företaget 80 gånger så många sådana incidentrapporter till National Center for Missing & Exploited Children (NCMEC) som under motsvarande period 2024. Denna markanta ökning understryker teknikföretagens intensifierade insatser för att bekämpa skador på nätet som drabbar minderåriga.
NCMEC:s CyberTipline fungerar som en av kongressen sanktionerad nav för att ta emot tips om material med sexuella övergrepp mot barn (CSAM) och andra former av exploatering. Etablerad för att effektivisera svar på dessa hot, bygger den på bidrag från företag som OpenAI, som använder AI-drivna verktyg för att skanna och flagga misstänkt innehåll på sina plattformar. Även om specifika siffror för rapporter inte specificerades i uppdateringen, signalerar multiplikatoreffekten —80-faldig— en potentiell ökning av sådant materials förekomst eller förbättrade detektionsförmågor.
OpenAI:s arbete inom detta område överensstämmer med bredare branschtrender mot förbättrade säkerhetsåtgärder för chatbots och generativa AI-system. Nyckelord kopplade till rapporten inkluderar säkerhet, barn, reglering och innehållsmoderering, vilket speglar pågående diskussioner om AI:s roll i att skydda utsatta användare. När AI-teknologier utvecklas spelar dessa rapporteringsmekanismer en avgörande roll i att stödja rättsväsendet och förebyggande insatser mot barnexploatering.
