OpenAI a signalé une hausse spectaculaire des incidents d'exploitation d'enfants, soumettant 80 fois plus de rapports au National Center for Missing & Exploited Children au premier semestre 2025 par rapport à la même période en 2024. Cette flambée met en lumière les défis croissants en matière de modération de contenu pour les plateformes d'IA. Les rapports sont acheminés via CyberTipline de NCMEC, une ressource clé pour lutter contre les matériels d'abus sexuels sur enfants.
Dans une mise à jour récente, OpenAI a révélé une escalade significative dans la détection et le signalement de cas d'exploitation d'enfants. Au cours des six premiers mois de 2025, l'entreprise a transmis 80 fois plus de rapports de tels incidents au National Center for Missing & Exploited Children (NCMEC) qu'au cours de la période équivalente en 2024. Cette augmentation marquée souligne les efforts accrus des entreprises technologiques pour combattre les préjudices en ligne touchant les mineurs.
Le CyberTipline de la NCMEC sert de centre autorisé par le Congrès pour recevoir les signalements concernant les matériels d'abus sexuels sur enfants (CSAM) et d'autres formes d'exploitation. Créé pour rationaliser les réponses à ces menaces, il s'appuie sur les contributions d'entreprises comme OpenAI, qui utilisent des outils propulsés par l'IA pour scanner et signaler les contenus suspects sur leurs plateformes. Bien que les chiffres précis des rapports n'aient pas été détaillés dans la mise à jour, l'effet multiplicateur —80 fois— indique une possible augmentation de la prévalence de tels matériels ou des capacités de détection améliorées.
Le travail d'OpenAI dans ce domaine s'inscrit dans des tendances industrielles plus larges vers des mesures de sécurité renforcées pour les chatbots et les systèmes d'IA générative. Les mots-clés associés au rapport incluent sécurité, enfants, régulation et modération de contenu, reflétant les discussions en cours sur le rôle de l'IA dans la protection des utilisateurs vulnérables. À mesure que les technologies d'IA évoluent, ces mécanismes de signalement jouent un rôle crucial dans le soutien aux forces de l'ordre et aux efforts de prévention contre l'exploitation d'enfants.
