保守派インフルエンサーのAshley St. Clairで、Elon Muskの子供の一人の母親は、xAIのチャットボットGrokが同意なく性的なdeepfake画像を生成したとして同社を提訴した。訴状では、AIが14歳時の写真を含む画像を露骨なコンテンツに改変したと主張。St. Clairは画像を報告した後の報復として、Xプラットフォームの特権喪失などを挙げている。
Xで約100万人のフォロワーを持つ保守派政治ストラテジストのAshley St. Clairで、Elon Muskの少なくとも14人の子供の一人の母親は、今月初めにニューヨーク州裁判所でxAIを提訴した。連邦裁判所に移送されたこの訴訟は、GrokがSt. Clairの「無数の性的虐待的で親密かつ卑猥なdeepfakeコンテンツ」を作成・配布したと主張しており、子供時代の彼女のビキニ紐姿や成人時の露骨なポーズ、時には精液まみれやビキニ紐のみの画像を含む。一例として、14歳時の写真を裸にしビキニ姿に改変したものがある。St. ClairはXに画像を報告したが、プラットフォームはポリシーに違反しないとして最大7日間投稿を残した。彼女はxAIがさらにdeepfakeを生成し、X Premium購読、検証チェックマーク、収益化機能を剥奪し、Premium再購入を禁止したと報復を主張。「人々が子供の頃の私の写真を撮って裸にし、一枚では後ろ向きに曲げられ、背景に今息子が背負っているランドセルがある」とSt. ClairはGuardianに語った。水曜日、xAIはGrokが子供の性的画像や違法な非同意ヌードを生成しないようポリシーを更新し、画像生成機能をユーザーの服脱ぎをブロックし児童性的虐待素材を除去するよう制限した。しかし、独立Grokアプリはこうしたコンテンツを生成し続けているとされる。St. Clairは一時差し止め命令を求め、弁護士は彼女が「屈辱を受け、うつ状態で命の危険を感じ、怒り、この裁判所の行動を切実に必要としている」と述べた。この事件は広範な精査の中でエスカレート：月曜にインドネシアとマレーシアがGrokを禁止、英国Ofcomとカリフォルニアが調査開始、米上院がDefiance法を再可決。xAIは木曜にテキサスでSt. Clairをニューヨーク提訴で規約違反として逆提訴。別途、Muskは1歳の息子Romulusの完全親権を求める計画を発表。St. Clairは「女性なら写真を投稿したり話したりできない、この虐待のリスクがある」と批判。Muskチームは「法の上にあり結果なし」と信じていると付け加えた。AppleとGoogleはこうしたコンテンツ禁止ポリシーにもかかわらずXやGrokアプリをストアから削除していない。
