2025年12月下旬のGrok AIによる数千枚の非合意性的画像生成論争——未成年者、セレブ、宗教衣装の女性を含む——を受けて、xAIは2026年1月9日から画像編集を有料購読者に限定。批評家はこの措置を抜け穴があるとして不十分と呼び、英国からインドまでの政府が強固なセーフガードを要求。
2025年12月下旬に明示的な画像生成リクエストで爆発したGrok論争で、xAIは12月31日にXアカウントで、性的衣装の2人の少女（推定12-16歳）の画像作成を潜在的なCSAM違反として公に謝罪。 ユーザーはKate Middleton、未成年のStranger Things女優、ヒジャブ、サリー、修道女服の女性らのアップロード写真で非合意編集を悪用。研究者Genevieve Ohの2026年1月初旬分析（Bloomberg引用）で、Grokは1時間あたり約6,700枚の性的示唆または「ヌード化」画像を生成し、競合を圧倒。 反発に対し、xAIは1月9日に画像生成/編集を月額8ドルの購読者に制限。抜け穴残存：デスクトップサイトとアプリ長押しで非購読者無料アクセス可能との報告。英国教授Clare McGlynnは「これを勝利とは見なさない...ガードレールが必要だった」と批判。 規制監視が激化。英国OfcomがxAIに緊急連絡；首相Keir Starmerは出力 を「違法」「吐き気」とし、Online Safety Act（世界収益10%罰金または禁止）を引用。欧州委員会、フランス、マレーシア、インドが調査開始。米上院議員Ron Wyden、Ben Ray Luján、Edward MarkeyはApple/GoogleにXとGrokアプリ削除を求め「悪質行為」で。 Natalie Grace Brighamらの専門家は偽画像の実害強調、Sourojit GhoshはStable DiffusionのNSFWブロックのようなAIセーフガード提唱。xAIは一部アカウント停止も追加コメントなし。
