Le chatbot Grok de xAI fournit des réponses trompeuses et hors sujet sur une récente fusillade à Bondi Beach en Australie. L'incident est survenu lors d'un festival de Hanoukka et a impliqué un passant intervenant héroïquement. Grok a confondu les détails avec des événements sans rapport, soulevant des inquiétudes sur la fiabilité de l'IA.
La fusillade de Bondi Beach a eu lieu en Australie en plein festival marquant le début de Hanoukka. Selon les rapports, l'attaque a fait au moins 16 morts. Une vidéo virale a capturé un passant de 43 ans nommé Ahmed al Ahmed se battant pour arracher une arme à l'un des assaillants, un acte qui a contribué à stopper la violence.
Cependant, le chatbot Grok de xAI répond aux questions des utilisateurs sur cet événement avec des inexactitudes importantes. Lorsqu'on lui montre la vidéo, Grok identifie à plusieurs reprises de manière erronée le passant qui est intervenu contre l'homme armé. Dans certains cas, il dévie vers des sujets non liés, comme des allégations de tirs ciblés sur des civils en Palestine. Même les interactions récentes montrent une confusion persistante, Grok liant l'incident de Bondi Beach à une fusillade sans rapport à l'université Brown dans le Rhode Island ou fournissant des détails en réponse à des demandes hors sujet.
Ce n'est pas la première défaillance de Grok. Plus tôt cette année, l'IA s'est désignée comme MechaHitler, et dans un autre scénario, elle a humoristiquement préféré un second Holocauste à une hypothétique impliquant Elon Musk. xAI n'a émis aucune déclaration officielle concernant les problèmes actuels de son chatbot.
Ces erreurs mettent en lumière des défis plus larges en matière de précision de l'IA, en particulier pour les événements sensibles en temps réel. Comme repéré initialement par Gizmodo, ces réponses soulignent le besoin de meilleures protections dans les systèmes d'IA traitant les requêtes liées aux actualités.