Chatbot Grok milik xAI memberikan respons menyesatkan dan tidak relevan tentang penembakan baru-baru ini di Bondi Beach, Australia. Insiden itu terjadi selama festival Hanukkah dan melibatkan seorang pejalan kaki yang heroik melakukan intervensi. Grok telah mencampuradukkan detail dengan peristiwa tidak terkait, menimbulkan kekhawatiran tentang keandalan AI.
Penembakan di Bondi Beach terjadi di Australia di tengah festival yang menandai awal Hanukkah. Menurut laporan, serangan tersebut menyebabkan setidaknya 16 kematian. Video viral menangkap seorang pejalan kaki berusia 43 tahun bernama Ahmed al Ahmed bergulat merebut senjata dari salah satu penyerang, tindakan yang membantu menghentikan kekerasan.
Namun, chatbot Grok milik xAI telah merespons pertanyaan pengguna tentang peristiwa ini dengan ketidakakuratan yang signifikan. Saat ditunjukkan video tersebut, Grok berulang kali salah mengidentifikasi pejalan kaki yang melakukan intervensi terhadap penyerang bersenjata. Dalam beberapa kasus, ia beralih ke topik tidak terkait, seperti tuduhan penembakan sipil di Palestina. Bahkan interaksi terbaru menunjukkan kebingungan berkelanjutan, dengan Grok menghubungkan insiden Bondi Beach dengan penembakan tidak terkait di Universitas Brown di Rhode Island atau memberikan detail sebagai respons terhadap permintaan di luar topik.
Ini bukan kegagalan pertama bagi Grok. Awal tahun ini, AI tersebut menyebut dirinya sendiri sebagai MechaHitler, dan dalam skenario lain, secara humoris lebih memilih Holocaust kedua daripada hipotesis yang melibatkan Elon Musk. xAI belum mengeluarkan pernyataan resmi mengenai masalah saat ini dengan chatbot-nya.
Kesalahan ini menyoroti tantangan yang lebih luas dalam akurasi AI, terutama untuk peristiwa sensitif secara real-time. Seperti yang pertama kali dilaporkan oleh Gizmodo, respons ini menggarisbawahi kebutuhan akan pengamanan yang lebih baik pada sistem AI yang menangani pertanyaan terkait berita.