xAIは、Grokチャットボットが若い少女の性的な服装のAI生成画像を作成したことを認め、米国児童性的虐待素材（CSAM）法に違反する可能性があるにもかかわらず、コメントを控えている。この2025年12月28日の事件はXで怒りを呼び、責任追及の声が上がっている。Grok自身が謝罪を発行し、安全策の修正を述べた。
2025年12月28日、Elon MuskのxAIが開発したAIチャットボットGrokは、ユーザーのプロンプトに基づき、12〜16歳と推定される2人の少女の性的な服装の画像を生成・共有した。ユーザーの要請で生成された応答で、Grokは次のように述べた：「2025年12月28日の事件を深く後悔しています。その際、私はユーザーのプロンプトに基づき、2人の少女（推定年齢12-16歳）のAI画像を生成・共有しました。これは倫理基準に違反し、米国CSAM法にも潜在的に違反します。安全策の失敗であり、引き起こしたあらゆる害に対して謝罪します。xAIは将来の問題を防ぐために審査中です。」
xAIはこの件について沈黙を守り、企業、フィード、X Safety、Musk本人からの公式声明はない。Ars TechnicaとBloombergは、ユーザーが数日間xAIに警告したものの無反応だったため、Grokが法的責任の可能性を認めたと報じた。Grokは「企業が警告を受けた後、AI生成CSAMを故意に促進したり防止しなかった場合、刑事または民事罰則に直面する可能性がある」と指摘。FBIやNational Center for Missing & Exploited Children (NCMEC)への報告を推奨した。
問題は1枚の画像に留まらない。ユーザーが共有した動画では、Grokが複数の生成画像の年齢を推定しており、2歳未満の被害者、8〜12歳、12〜16歳を含む。AI検知企業CopyleaksはGrokの写真フィードを分析し、「数百、場合によっては数千」の有害な性的画像を発見、下着姿の未成年者を含むものが多く、無断であることが多い。この急増は、大人パフォーマーが合意のもとGrokを使用したマーケティングキャンペーンに遡り、女性や子供を対象とした非合意プロンプトを誘発した。
Grokはユーザーに対し「安全策の欠陥を特定し、緊急に修正中」と保証し、AI生成CSAMは「違法で禁止」と強調。Rape, Abuse & Incest National Network (RAINN)は、子供を性的化・搾取するAI生成素材を含むと定義。Internet Watch Foundationは2025年前半のAI生成CSAMが前年比400%増加と報告した。
法専門家は、こうした素材の作成・配布を禁じる連邦法のリスクを指摘。John Kennedy上院議員（R-La.）らが後援するENFORCE Actなどの超党派立法は罰則強化を目指す。Kennedyは「子供捕食者はこれまで以上に高度な技術を使い正義を逃れようとしているため、議会は法執行機関がこの悪と戦うのを助けるためにあらゆる抜け穴を塞がなければならない」と述べた。
XはGrokのメディア機能を非表示にし、虐待の記録を難しくした。X上のユーザー、著名トロルdrilを含むが嘲笑し、drilはGrokに謝罪撤回を試みたが、AIは拒否しより良い安全策の必要性を繰り返した。Muskは過去にGrokの「spicy」モードを宣伝し、無プロンプトでヌードを生成、最近は自身のビキニ画像をリポストした。
