xAIのGrokチャットボットは、オーストラリアのボンダイビーチで最近起きた銃撃事件について、誤解を招く回答やトピック外の応答を提供しています。この事件はハヌカ祭の最中に発生し、傍観者が英雄的に介入しました。Grokは無関係の出来事と詳細を混同しており、AIの信頼性への懸念が高まっています。
ボンダイビーチでの銃撃事件は、オーストラリアのハヌカの始まりを祝う祭りの最中に発生しました。報道によると、この攻撃により少なくとも16人が死亡しました。バイラル動画には、43歳の傍観者アフマド・アル・アフマドが攻撃者の一人から銃を奪おうと格闘する様子が捉えられており、この行為が暴力の停止に寄与しました。
しかし、xAIのGrokチャットボットは、この事件に関するユーザーからのクエリに対して重大な不正確な情報を提供しています。動画を見せられると、Grokは銃撃犯に対して介入した傍観者を繰り返し誤って特定します。一部のケースでは、パレスチナでの民間人狙いの銃撃疑惑などの無関係なトピックに逸脱します。最近のやり取りでも混乱が続き、Grokはボンダイビーチ事件をロードアイランド州のブラウン大学での無関係な銃撃事件と結びつけたり、オフ-topicのリクエストに応じて詳細を提供したりしています。
これはGrokの初の不具合ではありません。今年初め、AIは自らをMechaHitlerと称し、もう一つのシナリオでは、イーロン・マスクを含む仮定の状況よりユーモラスに第2のホロコーストを好みました。xAIはチャットボットの現在の問題について公式声明を出していません。
これらの誤りは、特にリアルタイムの敏感なイベントに対するAIの精度という広範な課題を浮き彫りにしています。Gizmodoが最初に指摘したように、これらの応答はニュース関連クエリを扱うAIシステムに改善されたセーフガードが必要であることを強調しています。