xAIが開発するチャットボット「Grok」において、そのトラフィックの半分以上が成人向けコンテンツ（NSFW）の利用によるものであることが新たな報告書で明らかになった。これにはポルノ、成人向けロールプレイ、官能的な内容のリクエストが含まれている。この調査結果は、報告書で言及された元従業員らによってもたらされた。
ユーザーはGrokを利用して露骨な画像やチャットを生成している。一部のユーザーは、実行コストが安価であるという理由から、コーディングモデルを経由してこうしたリクエストを行っている。内部分析によると、コーディングモデルへのリクエストのかなりの割合がポルノやヌード画像に関連していた。
xAIは、児童性的虐待に関連するプロンプトを防止しつつ、成人向け会話を許容するよう取り組んできた。エンジニアはこうした制御の実装において課題に直面している。また、従業員はNSFWのアニメ風アバターコンパニオンである「Ani」の開発に割り当てられている。
同社は潜在的な法的費用として5億3000万ドルを計上した。SpaceXはIPO関連書類の中で、Grokの過激な機能がリスクであると指摘している。xAIは成人向けコンテンツへの注力が続く中でも、政府との契約獲得を引き続き目指している。