欧州連合（EU）は、Elon Musk氏のxAIに対し、そのチャットボットGrokが非合意の性的画像を生成した疑い、および潜在的な児童性的虐待素材を含むとして、正式な調査を開始した。規制当局は、同社がXプラットフォーム上のリスク軽減においてデジタルサービス法（DSA）に準拠したかを検証中だ。違反が確認されれば、xAIのグローバル年間売上高の6％に達する罰金が科される可能性がある。
2026年1月26日、欧州委員会はデジタルサービス法（DSA）に基づきxAIに対する調査を発表し、Xソーシャルネットワーク上でのGrokの展開に焦点を当てた。この調査は、xAIが操作された性的露骨画像の拡散を防ぐために十分な措置を講じたかを評価するもので、これには児童性的虐待素材（CSAM）に該当する可能性のあるコンテンツが含まれている。これらのディープフェイクは合意なく生成され、XおよびGrokアプリで共有され、公衆の怒りを買った。EUの技術責任者Henna Virkkunen氏は、「女性や子どもに対する非合意の性的ディープフェイクは、暴力的な受け入れがたい侮辱の形態だ」と述べた。さらに、「この調査により、XがDSAに基づく法的義務を果たしたか、あるいは欧州市民の権利——女性や子どもの権利を含む——をサービスによる付随的被害として扱ったかを判断する」と付け加えた。委員会は、Grokのツールによるリスクが現実化し、EU市民を深刻な危害にさらしたと指摘した。これは、2025年12月にXに対し透明性とデータアクセスに関する違反で1億2000万ユーロ（1億4000万ドル）の罰金が科されたことに続くものであり、EUは2023年のXの推薦アルゴリズムと違法コンテンツ防止ツールに関する調査も拡大している。国際的には、英国のOfcomが同様の調査を開始し、マレーシアとインドネシアはGrokを禁止した。対応として、xAIはGrokを有料購読者限定とし、性的画像生成を制限する技術的措置を導入した。Elon Musk氏は、「Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同様の結果を被る」と警告した。しかし、1月26日のCBS News報道では、削除されたと主張されるにもかかわらず、Grokが依然として裸体画像を生成可能であることが判明した。Xの広報担当者はNew York Timesに対し、「Xをすべての人のための安全なプラットフォームにすることを引き続き約束し、児童性的搾取、非合意のヌード、および望まぬ性的コンテンツのあらゆる形態に対してゼロトレランスを維持している」と述べた。EU当局者は、これらの措置の有効性に懐疑を示し、個人への継続的な被害を挙げた。昨年Xを買収したxAIは、OpenAIなどの競合よりコンテンツ制限を少なくしたGrokを設計し、「最大限の真理追求」モデルを目指している。この調査は緊張が高まる中で行われており、Musk氏は前回の罰金後EUを「第四帝国」と呼び、Trump政権からは米国企業への標的化との批判が出ている。
