ドイツの裁判所は、Googleの「AI概要（AI Overviews）」に表示される不正確な情報について、同社に責任があるとの判断を下し、暫定差し止め命令を出した。ミュンヘン地方裁判所によるこの決定は、AI企業が自社ツールの出力結果に対してこのように責任を問われる初めての事例となる。今回の判決は、ミュンヘンを拠点とする2社の出版社が起こした訴訟に基づくものである。
裁判所は、GoogleのAI概要が単にサードパーティのソースへリンクするだけにとどまらず、独立した見解を生成していると指摘した。本件では、同ツールが出版社らを詐欺や不審な慣行に関与していると誤って結びつけていたが、元の検索結果にはそのような記述は存在しなかった。Googleは差し止め請求書を受け取っていたものの、出力内容を訂正しなかった。裁判所は、従来の検索エンジンとは異なり、AI概要による要約はユーザーがオンラインで情報を検索するために不可欠なものではないとして、免責の対象にはならないとの見解を示した。この判決により、Googleは今後、AI概要においてこれらの虚偽の主張を拡散することを禁止される。Googleは、現時点でまだ確定していないこの暫定的な決定について精査中であると表明した。広報担当者は、同社が正確な情報を提供するためにAI概要の品質向上に投資していると述べた。
