OpenAI lanserar Lockdown Mode som skydd mot prompt-injektion

OpenAI har börjat rulla ut ett valfritt ”Lockdown Mode” för att ge extra säkerhet mot prompt-injektionsattacker för användare som hanterar känslig data. Funktionen begränsar vissa möjligheter i ChatGPT och andra produkter för att minska risken för dataläckage. Den är tillgänglig för alla personliga konton, inklusive de på gratistjänsten.

OpenAI beskriver Lockdown Mode som en sista försvarslinje som bygger vidare på befintliga skydd i företagets modeller och system. Företaget konstaterar att de flesta användare inte behöver funktionen, som är avsedd för personer och organisationer som kräver striktare säkerhetsåtgärder. Att aktivera läget begränsar flera funktioner. Användare kan fortfarande skapa bilder och ladda upp foton, men kan inte hämta bilder från internet eller visa dem i svar. Chatboten kan inte ladda ner filer för analys, och funktioner som Deep Research och Agent Mode inaktiveras helt. Lockdown Mode ändrar inte minne, filuppladdningar, delning av konversationer eller användningen av konversationer för att förbättra modeller. OpenAI introducerar också en aktiv sessionshanterare som låter användare se och logga ut från enheter eller webbläsare som har tillgång till deras konton, där fullständig utloggning kan ta upp till 30 minuter. För att aktivera inställningen öppnar användare ChatGPT-inställningarna, väljer Säkerhet och integritet, sedan Avancerad säkerhet och aktiverar Lockdown Mode. Tillfällig avaktivering är tillgänglig per chatt.

Relaterade artiklar

Illustration of a woman using ChatGPT voice features on a tablet in a living room setting.
Bild genererad av AI

OpenAI rolls out new GPT-Live voice models for ChatGPT

Rapporterad av AI Bild genererad av AI

OpenAI has begun releasing two updated voice models for ChatGPT that allow simultaneous listening and speaking. The changes aim to create more natural conversations.

OpenAI announced an optional Advanced Account Security feature on Thursday for users worried about phishing attacks on their ChatGPT and Codex accounts. The new mode enforces strict access controls to prevent account takeovers. It targets individuals concerned about becoming victims of hackers.

Rapporterad av AI

OpenAI has rolled out an optional safety tool allowing adult ChatGPT users to designate one trusted adult who can be alerted about potential self-harm risks detected in conversations. The feature, called Trusted Contact, involves human review before any notification is sent.

Workers paid to train advanced AI models are increasingly relying on chatbots like ChatGPT to generate the required conversations and tests. This shortcut, described as widespread by multiple sources, risks degrading the quality of future models through recursive training on synthetic data.

Denna webbplats använder cookies

Vi använder cookies för analys för att förbättra vår webbplats. Läs vår integritetspolicy för mer information.
Avböj