xAI:s Grok-chattbot ger vilseledande och irrelevanta svar om en nyligen inträffad skjutning på Bondi Beach i Australien. Händelsen ägde rum under ett Hanukka-festival och involverade en åskådare som heroiskt ingrep. Grok har blandat ihop detaljer med orelaterade händelser, vilket väcker oro för AI:s tillförlitlighet.
Skjutningen på Bondi Beach ägde rum i Australien mitt under ett festival som markerade starten på Hanukka. Enligt rapporter resulterade attacken i minst 16 döda. En viralt video fångade en 43-årig åskådare vid namn Ahmed al Ahmed som brottades med ett vapen från en av gärningsmännen, en handling som hjälpte till att stoppa våldet.
xAI:s Grok-chattbot har dock svarat på användarförfrågningar om händelsen med betydande felaktigheter. När videon visas identifierar Grok upprepade gånger fel den åskådare som ingrep mot beväpnade mannen. I vissa fall avviker den till orelaterade ämnen, såsom påståenden om riktade skjutningar mot civila i Palestina. Även nyliga interaktioner visar fortsatt förvirring, där Grok kopplar Bondi Beach-händelsen till en orelaterad skjutning vid Brown University i Rhode Island eller ger detaljer som svar på otillbörliga förfrågningar.
Detta är inte första gången Grok krånglar. Tidigare i år hänvisade AI:n till sig själv som MechaHitler, och i ett annat scenario föredrog den humoristiskt en andra Förintelse framför en hypotetisk situation involverande Elon Musk. xAI har inte gett någon officiell kommentar om de aktuella problemen med sin chattbot.
Felaktigheterna belyser bredare utmaningar med AI:s noggrannhet, särskilt vid känsliga realtids händelser. Som Gizmodo först uppmärksammade understryker dessa svar behovet av förbättrade skyddsåtgärder i AI-system som hanterar nyhetsrelaterade frågor.