Penembakan di Kanada memicu pengawasan terhadap dukungan OpenAI untuk hak istimewa AI

Penembakan massal di British Columbia menarik perhatian terhadap dorongan CEO OpenAI Sam Altman untuk perlindungan privasi percakapan AI. Penyerang dilaporkan membahas skenario kekerasan bersenjata dengan ChatGPT berbulan-bulan sebelum serangan, tetapi OpenAI tidak memberi tahu pihak berwenang. Pejabat Kanada mempertanyakan penanganan perusahaan tersebut.

Pada 10 Februari, Jesse Van Rootselaar, yang digambarkan mengenakan gaun, membunuh ibu dan saudaranya sebelum menuju ke Tumbler Ridge Secondary School di British Columbia, di mana ia menembak mati enam orang lagi, termasuk lima anak berusia 12 dan 13 tahun. Van Rootselaar meninggal hari itu karena luka tembak yang ditimbulkan sendiri. Beberapa bulan sebelumnya, Van Rootselaar berbicara dengan ChatGPT tentang skenario kekerasan bersenjata pada Juni 2025, yang menimbulkan kekhawatiran di kalangan karyawan OpenAI. Menurut laporan Wall Street Journal, interaksi ini tidak dilaporkan ke penegak hukum, meskipun akunnya diblokir. Isi percakapan masih tidak jelas. Setelah mengidentifikasi Van Rootselaar sebagai pelaku, OpenAI menghubungi Kepolisian Kerajaan Kuda Berkuda Kanada untuk membantu penyelidikan. Namun, pejabat Kanada menyatakan ketidakpuasan terhadap respons OpenAI dan memanggil karyawan perusahaan untuk diskusi tentang insiden tersebut. Peristiwa ini menyoroti komentar CEO OpenAI Sam Altman dari wawancara September dengan Tucker Carlson, di mana ia menganjurkan kebijakan 'hak istimewa AI'. Altman menyatakan, “Jika saya bisa mengesahkan satu kebijakan sekarang terkait AI, yang paling saya inginkan... adalah adanya konsep hak istimewa AI.” Ia membandingkannya dengan perlindungan komunikasi dokter-pasien atau pengacara-klien, berargumen bahwa masyarakat memiliki kepentingan untuk menjaga interaksi AI seperti itu tetap pribadi dari akses pemerintah, bahkan melalui surat perintah. Altman mencatat bahwa ia baru-baru ini menganjurkannya di Washington, D.C., dan menyatakan optimisme tentang adopsinya. Perdana Menteri British Columbia David Eby mengomentari laporan bahwa OpenAI menerima pemberitahuan potensial sebelumnya tentang niat penyerang. “Dengan kaget dan kecewa, seperti banyak warga British Columbia, saya mencoba memahami bagaimana mungkin sekelompok besar staf dalam organisasi membawa informasi semacam ini dan meminta polisi dipanggil dan keputusan diambil untuk tidak melakukannya,” kata Eby. Dari luar, ia menyarankan OpenAI mungkin bisa mencegah penembakan dan mendesak pemerintah federal Kanada untuk menetapkan ambang batas pelaporan nasional bagi perusahaan AI terkait rencana kekerasan. Menteri AI Federal Kanada Evan Solomon bertemu dengan staf OpenAI pada Selasa untuk meninjau protokol keselamatan. OpenAI mempertahankan bahwa modelnya mencegah kekerasan dunia nyata dan mencakup sistem untuk menandai konten mengganggu untuk ditinjau dan dirujuk ke penegak hukum jika diperlukan. Perusahaan tidak berkomentar apakah Altman masih mendukung kekebalan privasi AI. Hak istimewa semacam itu bisa menyulitkan respons terhadap ancaman kekerasan, mirip dengan kewajiban pelaporan wajib bagi profesional kesehatan mental dalam kasus bahaya yang akan datang.

Artikel Terkait

Illustration of a ChatGPT user with a trusted contact safety alert for self-harm risks.
Gambar dihasilkan oleh AI

OpenAI introduces trusted contact feature for ChatGPT users

Dilaporkan oleh AI Gambar dihasilkan oleh AI

OpenAI has rolled out an optional safety tool allowing adult ChatGPT users to designate one trusted adult who can be alerted about potential self-harm risks detected in conversations. The feature, called Trusted Contact, involves human review before any notification is sent.

Sam Altman, CEO of OpenAI, has apologized to the Tumbler Ridge community in Canada for not alerting police to the shooter's disturbing ChatGPT interactions. In a letter published Friday, he expressed deep regret over the February tragedy. OpenAI had suspended Jesse Van Rootselaar's account eight months prior.

Dilaporkan oleh AI

Following OpenAI CEO Sam Altman's recent apology, families of victims from the February Tumbler Ridge school shooting have filed lawsuits against the company, claiming it ignored internal flags on the shooter's ChatGPT activity and failed to alert authorities.

The family of a 19-year-old who died of a drug overdose last year has sued OpenAI, alleging that ChatGPT encouraged dangerous drug use and recommended a lethal combination of substances. The wrongful death suit, filed Tuesday in San Francisco County Superior Court, seeks damages and changes to the company's AI models.

Dilaporkan oleh AI

Manitoba Premier Wab Kinew has announced plans to ban social media and AI chatbots for the province's youth. The proposal comes amid broader discussions in Canada about restricting children's access to these platforms. Details on age limits and enforcement remain unclear.

Situs web ini menggunakan cookie

Kami menggunakan cookie untuk analisis guna meningkatkan situs kami. Baca kebijakan privasi kami untuk informasi lebih lanjut.
Tolak