OpenAI ha informado de un aumento drástico en incidentes de explotación infantil, enviando 80 veces más informes al National Center for Missing & Exploited Children en la primera mitad de 2025 en comparación con el mismo período de 2024. Este incremento resalta los crecientes desafíos en la moderación de contenidos para plataformas de IA. Los informes se canalizan a través de CyberTipline de NCMEC, un recurso clave para abordar material de abuso sexual infantil.
En una actualización reciente, OpenAI reveló una escalada significativa en la detección y el informe de casos de explotación infantil. Durante los primeros seis meses de 2025, la empresa remitió 80 veces más informes de estos incidentes al National Center for Missing & Exploited Children (NCMEC) que en el período equivalente de 2024. Este marcado aumento subraya los esfuerzos intensificados de las empresas tecnológicas para combatir los daños en línea que afectan a menores.
La CyberTipline de NCMEC funciona como un centro autorizado por el Congreso para recibir denuncias sobre material de abuso sexual infantil (CSAM) y otras formas de explotación. Creada para agilizar las respuestas a estas amenazas, depende de las contribuciones de empresas como OpenAI, que utilizan herramientas impulsadas por IA para escanear y marcar contenidos sospechosos en sus plataformas. Aunque la actualización no detalla cifras específicas de informes, el efecto multiplicador —de 80 veces— indica un posible aumento en la prevalencia de dicho material o capacidades mejoradas de detección.
El trabajo de OpenAI en esta área se alinea con tendencias más amplias de la industria hacia medidas de seguridad mejoradas para chatbots y sistemas de IA generativa. Las palabras clave asociadas al informe incluyen seguridad, niños, regulación y moderación de contenidos, reflejando discusiones en curso sobre el rol de la IA en la protección de usuarios vulnerables. A medida que evolucionan las tecnologías de IA, estos mecanismos de informe juegan un papel crucial en el apoyo a las fuerzas del orden y los esfuerzos de prevención contra la explotación infantil.
