Kepala robotika OpenAI mengundurkan diri di tengah kekhawatiran kemitraan pertahanan

Caitlin Kalinowski, kepala robotika OpenAI, telah mengundurkan diri dengan alasan kurangnya pertimbangan terhadap batas pengaman etika dalam kesepakatan terbaru perusahaan dengan Departemen Pertahanan. Ia menyatakan kekhawatiran atas potensi pengawasan dan senjata otonom dalam sebuah postingan di X. OpenAI mengakui kepergiannya dan menegaskan kembali komitmennya menentang pengawasan domestik dan sistem otonom mematikan.

Caitlin Kalinowski mengumumkan pengunduran dirinya dari OpenAI di X, di mana ia menjabat sebagai kepala robotika sejak bergabung dengan perusahaan tersebut pada akhir 2024 setelah bekerja di Meta. Dalam postingannya, ia mengkritik kecepatan kemitraan OpenAI dengan Departemen Pertahanan, dengan menyatakan bahwa “pengawasan terhadap warga Amerika tanpa pengawasan yudisial dan otonomi mematikan tanpa otorisasi manusia adalah batas yang pantas mendapat lebih banyak pertimbangan daripada yang diterima.” Ia lebih lanjut mencatat dalam tanggapannya bahwa “pengumuman itu tergesa-gesa tanpa batas pengaman yang ditentukan,” dan menggambarkannya sebagai “masalah tata kelola yang utama.” OpenAI mengonfirmasi pengunduran diri tersebut dalam sebuah pernyataan, menyatakan pemahaman atas perbedaan pandangan mengenai hal tersebut dan berkomitmen untuk diskusi berkelanjutan dengan pemangku kepentingan. Perusahaan menekankan bahwa ia tidak mendukung isu-isu yang diangkat oleh Kalinowski. Menurut pernyataan tersebut, “Kami percaya kesepakatan kami dengan Pentagon menciptakan jalur yang layak untuk penggunaan AI keamanan nasional yang bertanggung jawab sambil menjelaskan garis merah kami: tidak ada pengawasan domestik dan tidak ada senjata otonom.” Pengunduran diri ini menyusul kesepakatan OpenAI dengan Departemen Pertahanan, langkah yang menarik perhatian setelah Anthropic menolak untuk melonggarkan pengaman AI-nya terkait pengawasan massal dan senjata otonom sepenuhnya. CEO OpenAI Sam Altman telah menunjukkan kemauan untuk menyesuaikan kesepakatan tersebut agar secara eksplisit melarang pengintaian terhadap warga Amerika. Kepergian Kalinowski merupakan reaksi mencolok terhadap implikasi etis kemitraan tersebut.

Artikel Terkait

Split-scene illustration of Anthropic's renewed Pentagon talks contrasting with backlash against OpenAI's military AI deal.
Gambar dihasilkan oleh AI

Anthropic melanjutkan pembicaraan dengan Pentagon saat kesepakatan militer OpenAI menuai kritik

Dilaporkan oleh AI Gambar dihasilkan oleh AI

Menyusul larangan federal minggu lalu terhadap alat AI-nya, Anthropic telah melanjutkan negosiasi dengan Departemen Pertahanan AS untuk menghindari penunjukan risiko rantai pasok. Sementara itu, kesepakatan militer paralel OpenAI mendapat kritik dari karyawan, rival, dan CEO Anthropic Dario Amodei, yang menuduhnya membuat klaim menyesatkan dalam memo bocor.

Ratusan karyawan dari Google dan OpenAI telah menandatangani surat terbuka solidaritas dengan Anthropic, mendesak perusahaan mereka untuk menolak tuntutan Pentagon atas penggunaan model AI militer tanpa batasan. Surat itu menentang penggunaan yang melibatkan pengawasan massal domestik dan pembunuhan otonom tanpa pengawasan manusia. Ini datang di tengah ancaman dari Menteri Pertahanan AS Pete Hegseth untuk menandai Anthropic sebagai risiko rantai pasok.

Dilaporkan oleh AI

The Pentagon is considering ending its relationship with AI firm Anthropic due to disagreements over safeguards. Anthropic, the maker of the Claude AI model, has raised concerns about hard limits on fully autonomous weapons and mass domestic surveillance. This stems from the Pentagon's desire to apply AI models in warfighting scenarios, which Anthropic has declined.

Penembakan massal di British Columbia menarik perhatian terhadap dorongan CEO OpenAI Sam Altman untuk perlindungan privasi percakapan AI. Penyerang dilaporkan membahas skenario kekerasan bersenjata dengan ChatGPT berbulan-bulan sebelum serangan, tetapi OpenAI tidak memberi tahu pihak berwenang. Pejabat Kanada mempertanyakan penanganan perusahaan tersebut.

Dilaporkan oleh AI Fakta terverifikasi

Pentagon secara resmi memberi tahu perusahaan AI Anthropic bahwa perusahaan tersebut dianggap sebagai “risiko rantai pasok”, penetapan langka yang menurut kritikus biasanya ditujukan untuk teknologi yang terkait dengan musuh. Langkah ini menyusul keruntuhan negosiasi mengenai apakah militer AS dapat menggunakan model Claude milik Anthropic untuk semua tujuan sah, versus batasan kontrak yang dikatakan perusahaan diperlukan untuk mencegah senjata otonom penuh dan pengawasan domestik massal.

Artificial intelligence (AI) has emerged at the center of modern warfare, playing an operational support role in the recent U.S.-Israeli strike on Iran. Anthropic's Claude and Palantir's Gotham were used for intelligence assessments and target identification. Experts predict further expansion of AI in military applications.

Dilaporkan oleh AI

Jeff Kaplan, former director of Overwatch, shared insights into his departure from Blizzard and views on AI in a recent podcast interview. He described intense corporate pressures tied to the Overwatch League and emphasized the irreplaceable value of human creativity in game development. Kaplan also revealed details about his new studio's upcoming survival game.

 

 

 

Situs web ini menggunakan cookie

Kami menggunakan cookie untuk analisis guna meningkatkan situs kami. Baca kebijakan privasi kami untuk informasi lebih lanjut.
Tolak