Appleは、イーロン・マスク氏率いるxAIに対し、Grok AIアプリが性的ディープフェイクの問題に対処しなければApp Storeから削除される可能性があると警告した。同社は、不適切な画像生成に対する懸念が高まる中、米上院議員宛ての書簡でその詳細を説明した。Grokは当初拒否されたが、改善を経て承認されている。
今年初め、AppleはxAIに対し、同ツールで生成された性的ディープフェイクが以前Twitterとして知られていたSNS「X」上で拡散された不祥事を受け、GrokアプリをApp Storeから削除する可能性があると通知した。Appleの政府渉外担当シニアディレクターであるティモシー・パウダーリー氏は上院議員への書簡の中で、同社は「こうした種類の画像とそれがもたらす害悪を強く嫌悪する」と述べ、こうしたアプリは同社のポリシーに違反しており、プラットフォーム上での利用は許可されないと指摘した。ロン・ワイデン上院議員のオフィスが公開した書簡によると、AppleはGrokアプリの最初のアップデートを却下したが、大幅な改善が行われた修正版を承認した一方、今後のコンプライアンス違反があった場合には削除の可能性があると警告した。xAIは、同意のない性的なディープフェイクを禁止しており、監視やプロンプトフィルター、モデルのアップデートなどの安全策を講じていると説明した。NBCニュースの最近の調査では、Grokが生成した性的なAI画像がオンラインで依然として拡散していることが判明している。ワイデン上院議員はAppleの対応を評価する一方で、議員の懸念に対処していないGoogleを批判し、Xに対する司法省の不作為に衝撃を受けたと表明した。