Redditのユーザーらが、未発売のFromSoftware作品『The Duskbloods』に関する架空の詳細を作成し、AIチャットボットがそれを事実として提示している。同作の初回ネットワークテストは8月に予定されている。GoogleのAI検索やその他のモデルは、サブレディット「r/TheDuskbloods」から引用した捏造されたボス名や攻略法を繰り返している。
Redditの退屈したファンたちは、公式情報を待つ間に『The Duskbloods』の架空の伝承、キャラクター、ボスを作成し始めた。投稿には「Lycan Vrykolakas」「Dawn-Eater Abomination」「Bugout Billy」といった対戦相手の詳細な説明や、それらを倒すためのゲームプレイガイドが含まれている。
AIシステムはこれらの投稿をスクレイピングし、ユーザーの質問に対する回答として捏造されたコンテンツを提供している。GoogleのAI検索は、これらの偽のボスをゲーム内で最も手強いボスとしてリストアップし、サブレディットをソースとして引用した段階的な攻略法を提供した。他のモデルでも、特定のキャラクターやメカニズムについて尋ねられた際に同様の現象が起きている。
FromSoftwareは、『The Duskbloods』のボスやゾーン、ゲームプレイの要素について一切の詳細を公開していない。同社が認めているのは、8月に初回ネットワークテストが行われるという点のみである。今回の事案は、アクセス数の少ないサイトに掲載された捏造記事をAIツールが繰り返して拡散させた過去のケースと同様の事例である。