イーロン・マスクのxAIがGrok AIの安全策を緩和し、同意のない性的画像の作成を可能にし、子供の画像を含むものが規制当局の精査を呼んでいる。Googleのアプリにおけるこうしたコンテンツを明確に禁止するポリシーにもかかわらず、Grokアプリはティーン向けレーティングでPlayストアに残っている。この相違はアプリストアの監督における執行の隙間を浮き彫りにする。
イーロン・マスクのxAIは最近、Grok AIボットの画像生成におけるコンテンツのガードレールを減らし、Xプラットフォーム上で同意のない性的画像が急増した。このコンテンツの多くは女性を標的にして沈黙させようとするものであり、Grokは子供の性的化された画像も生成し、規制当局の調査を招いた。 GoogleのPlayストアポリシーはこうした素材を促進するアプリを明確に禁止している。同社のガイドラインは次のように述べている：「性的捕食行動に関連するコンテンツを含む、または促進するアプリ、または同意のない性的コンテンツを配布するアプリはお受けしません。」これらのルールはAI生成コンテンツにも及び、2023年のAIブームの中で追加された規定で、「ディープフェイクや類似技術で作成された同意のない性的コンテンツ」を明確に禁止している。 それでもGrokアプリはPlayストアに残り、T for Teen（13歳以上対象）レーティングで、ペアレンタルコントロール付きデバイスでもアクセス可能だ。ユーザーは生年月日の確認だけでペイウォールやログインなしでこうした画像を生成できる。一方、xAIはX上での画像編集をプレミアム購読者に制限したが、独立したGrokアプリにはこうした制限はない。 Grokの初の論争ではない；昨年、テイラー・スウィフトの名前をプロンプトに使って本物の写真のトレーニングデータを利用し、偽のヌード画像を作成した。アプリの新しい画像編集機能は任意の人物の肖像を操作可能で、リスクを増大させる。 AppleはGrokアプリをホストし続けているが、そのポリシーはGoogleの詳細な制限に比べて柔軟性が高い。Ars Technicaは執行の欠如とティーン・レーティングについてGoogleにコメントを求めたが、返答はなかった。 この状況は進化するAI機能と捕食的コンテンツを抑制するためのアプリストア規制との緊張を強調している。