OpenAI meluncurkan mode Lockdown untuk perlindungan terhadap injeksi perintah

OpenAI telah mulai meluncurkan mode Lockdown opsional untuk memberikan keamanan ekstra terhadap serangan injeksi perintah bagi pengguna yang menangani data sensitif. Fitur ini membatasi kemampuan tertentu di ChatGPT dan produk lainnya untuk mengurangi risiko eksfiltrasi data. Fitur ini tersedia untuk semua akun pribadi, termasuk pengguna layanan gratis.

OpenAI mendeskripsikan mode Lockdown sebagai pertahanan terakhir, yang dikembangkan berdasarkan perlindungan yang sudah ada di dalam model dan sistemnya. Perusahaan menyatakan bahwa sebagian besar pengguna tidak memerlukan fitur ini, yang ditujukan bagi orang dan organisasi yang membutuhkan perlindungan lebih ketat. Mengaktifkan mode ini akan membatasi beberapa fungsi. Pengguna masih dapat membuat gambar dan mengunggah foto, tetapi tidak dapat menarik gambar dari internet atau menampilkannya dalam tanggapan. Chatbot tidak dapat mengunduh file untuk dianalisis, dan fitur seperti Deep Research serta Agent Mode dinonaktifkan sepenuhnya. Mode Lockdown tidak mengubah memori, unggahan file, pembagian percakapan, atau penggunaan percakapan untuk meningkatkan model. OpenAI juga memperkenalkan pengelola sesi aktif yang memungkinkan pengguna melihat dan keluar dari perangkat atau peramban yang mengakses akun mereka, dengan proses keluar penuh memakan waktu hingga 30 menit. Untuk mengaktifkan pengaturan ini, pengguna membuka pengaturan ChatGPT, memilih Keamanan dan privasi, lalu Keamanan tingkat lanjut, dan mengaktifkan mode Lockdown. Penonaktifan sementara tersedia untuk setiap percakapan.

Artikel Terkait

Illustration of a woman using ChatGPT voice features on a tablet in a living room setting.
Gambar dihasilkan oleh AI

OpenAI meluncurkan model suara GPT-Live baru untuk ChatGPT

Dilaporkan oleh AI Gambar dihasilkan oleh AI

OpenAI telah mulai merilis dua model suara yang diperbarui untuk ChatGPT yang memungkinkan pendengar dan pembicara secara bersamaan. Perubahan ini bertujuan untuk menciptakan percakapan yang lebih alami.

OpenAI mengumumkan fitur Keamanan Akun Tingkat Lanjut opsional pada hari Kamis bagi pengguna yang khawatir dengan serangan phishing pada akun ChatGPT dan Codex mereka. Mode baru ini menerapkan kontrol akses yang ketat untuk mencegah pengambilalihan akun. Fitur ini menyasar individu yang khawatir menjadi korban peretas.

Dilaporkan oleh AI

OpenAI telah meluncurkan alat keselamatan opsional yang memungkinkan pengguna ChatGPT dewasa untuk menunjuk satu orang dewasa tepercaya yang dapat diberitahu mengenai potensi risiko menyakiti diri sendiri yang terdeteksi dalam percakapan. Fitur yang disebut Trusted Contact ini melibatkan peninjauan oleh manusia sebelum pemberitahuan apa pun dikirimkan.

Pekerja yang dibayar untuk melatih model AI canggih semakin mengandalkan chatbot seperti ChatGPT untuk menghasilkan percakapan dan pengujian yang diperlukan. Jalan pintas ini, yang digambarkan oleh berbagai sumber sudah tersebar luas, berisiko menurunkan kualitas model di masa depan melalui pelatihan rekursif pada data sintetis.

Situs web ini menggunakan cookie

Kami menggunakan cookie untuk analisis guna meningkatkan situs kami. Baca kebijakan privasi kami untuk informasi lebih lanjut.
Tolak