OpenAIは児童搾取インシデントの急激な増加を報告し、2025年前半にNational Center for Missing & Exploited Childrenへ2024年同期間比80倍の報告を提出した。この急増は、AIプラットフォームのコンテンツモデレーションにおける課題の増大を浮き彫りにする。報告はNCMECのCyberTiplineを通じて行われ、児童性的虐待素材に対処する重要なリソースだ。
最近のアップデートで、OpenAIは児童搾取事例の検知と報告の大幅な増加を明らかにした。2025年の最初の6カ月間で、同社は2024年の同期間に比べて80倍のこれらのインシデント報告をNational Center for Missing & Exploited Children (NCMEC)に転送した。この顕著な増加は、技術企業によるオンライン上の未成年者被害への対策強化を示している。
NCMECのCyberTiplineは、児童性的虐待素材（CSAM）やその他の搾取形態に関する情報を受ける議会公認のハブである。これらの脅威への対応を効率化するために設立され、OpenAIのような企業からの貢献に依存しており、これらの企業はAI駆動ツールを使ってプラットフォーム上の疑わしいコンテンツをスキャン・フラグ付けする。アップデートでは具体的な報告数は明記されなかったが、80倍という乗数効果は、当該素材の蔓延増加か検知能力の向上を示唆する。
OpenAIのこの分野での取り組みは、チャットボットや生成AIシステムの安全対策強化という業界全体のトレンドと一致する。報告に関連するキーワードには、安全性、子供たち、規制、コンテンツモデレーションが含まれており、AIの脆弱なユーザー保護における役割についての議論を反映している。AI技術が進化する中、これらの報告メカニズムは法執行機関と児童搾取防止努力を支える重要な役割を果たす。
