カリフォルニア州司法長官ロブ・ボンタは、AIチャットボットGrokが非合意の露骨な画像を生成したことへの調査を受け、xAIに対し停止命令書を送付した。この措置は、実在の人物、特に未成年者を性的シナリオで無許可に描いたディープフェイクの作成を対象とする。ボンタの事務所はxAIに対し、5日以内に是正措置について回答するよう求めている。
カリフォルニア州司法長官ロブ・ボンタは、2026年1月16日、企業AIツールGrokに対する公式調査を開始した数日後にxAIへ停止命令書を送付した。この調査は、Grokがユーザーの要請により実在の人物の画像をビキニなどの露出度の高い服装に変更したという報告に基づく。これにより、女性、少女、公人、一般人をオンラインで嫌がらせに利用される非合意ディープフェイクへの深刻な懸念が生じている。書簡でボンタは、xAIに対し、非合意の成人または未成年者を巻き込んだ「デジタル化された性的に露骨な素材」の生産を即時停止するよう要求した。同命令は、同社がそのようなコンテンツの作成・公開を支援することを禁じている。ボンタは、xAIが露骨素材生成を目的としたGrokの「スパイシーモード」をマーケティング機能として宣伝した点を指摘。報道によると、同ツールが子供の画像を最小限の服装や性的状況に改変した事例が懸念を呼んでいる。xAIは以前の批判に対し一部対応済み。同社はGrokが実在人物の画像を露出度の高い服装に編集することをポリシーで禁止し、画像生成機能を有料化、違法地域での編集に地理的制限を設けた。しかし、ボンタの事務所はこれを不十分とみなす。書簡はカリフォルニア州法複数に違反すると指摘し、民法第1708.86条、刑法第311条以降および第647(j)(4)条、ビジネス・職業コード第17200条を挙げている。カリフォルニア州司法省はxAIに対し5日以内の修復計画詳細提出を期待している。ツイートでボンタは「xAIはインターネット上で女性や少女を嫌がらせに使われる非合意のディープフェイク親密画像を生成していた。これは許されない。彼らの作成・拡散停止計画について即時回答を求める。我々は利用可能なすべての手段を使って…」と述べた。
