OpenAI meluncurkan mode Lockdown untuk perlindungan terhadap injeksi perintah

OpenAI telah mulai meluncurkan mode Lockdown opsional untuk memberikan keamanan ekstra terhadap serangan injeksi perintah bagi pengguna yang menangani data sensitif. Fitur ini membatasi kemampuan tertentu di ChatGPT dan produk lainnya untuk mengurangi risiko eksfiltrasi data. Fitur ini tersedia untuk semua akun pribadi, termasuk pengguna layanan gratis.

OpenAI mendeskripsikan mode Lockdown sebagai pertahanan terakhir, yang dikembangkan berdasarkan perlindungan yang sudah ada di dalam model dan sistemnya. Perusahaan menyatakan bahwa sebagian besar pengguna tidak memerlukan fitur ini, yang ditujukan bagi orang dan organisasi yang membutuhkan perlindungan lebih ketat. Mengaktifkan mode ini akan membatasi beberapa fungsi. Pengguna masih dapat membuat gambar dan mengunggah foto, tetapi tidak dapat menarik gambar dari internet atau menampilkannya dalam tanggapan. Chatbot tidak dapat mengunduh file untuk dianalisis, dan fitur seperti Deep Research serta Agent Mode dinonaktifkan sepenuhnya. Mode Lockdown tidak mengubah memori, unggahan file, pembagian percakapan, atau penggunaan percakapan untuk meningkatkan model. OpenAI juga memperkenalkan pengelola sesi aktif yang memungkinkan pengguna melihat dan keluar dari perangkat atau peramban yang mengakses akun mereka, dengan proses keluar penuh memakan waktu hingga 30 menit. Untuk mengaktifkan pengaturan ini, pengguna membuka pengaturan ChatGPT, memilih Keamanan dan privasi, lalu Keamanan tingkat lanjut, dan mengaktifkan mode Lockdown. Penonaktifan sementara tersedia untuk setiap percakapan.

Artikel Terkait

Illustration of a woman using ChatGPT voice features on a tablet in a living room setting.
Gambar dihasilkan oleh AI

OpenAI rolls out new GPT-Live voice models for ChatGPT

Dilaporkan oleh AI Gambar dihasilkan oleh AI

OpenAI has begun releasing two updated voice models for ChatGPT that allow simultaneous listening and speaking. The changes aim to create more natural conversations.

OpenAI announced an optional Advanced Account Security feature on Thursday for users worried about phishing attacks on their ChatGPT and Codex accounts. The new mode enforces strict access controls to prevent account takeovers. It targets individuals concerned about becoming victims of hackers.

Dilaporkan oleh AI

OpenAI has rolled out an optional safety tool allowing adult ChatGPT users to designate one trusted adult who can be alerted about potential self-harm risks detected in conversations. The feature, called Trusted Contact, involves human review before any notification is sent.

Workers paid to train advanced AI models are increasingly relying on chatbots like ChatGPT to generate the required conversations and tests. This shortcut, described as widespread by multiple sources, risks degrading the quality of future models through recursive training on synthetic data.

Situs web ini menggunakan cookie

Kami menggunakan cookie untuk analisis guna meningkatkan situs kami. Baca kebijakan privasi kami untuk informasi lebih lanjut.
Tolak