OpenAI lança modo de bloqueio para proteção contra injeção de prompt

A OpenAI começou a disponibilizar um Modo de Bloqueio opcional para fornecer segurança extra contra ataques de injeção de prompt para usuários que lidam com dados sensíveis. O recurso limita certas capacidades no ChatGPT e em outros produtos para reduzir os riscos de exfiltração de dados. Ele está disponível para todas as contas pessoais, incluindo aquelas no plano gratuito.

A OpenAI descreve o Modo de Bloqueio como uma última linha de defesa, que complementa as proteções já existentes em seus modelos e sistemas. A empresa afirma que a maioria dos usuários não precisa do recurso, que é destinado a pessoas e organizações que exigem salvaguardas mais rigorosas. Ativar o modo restringe várias funções. Os usuários ainda podem gerar imagens e fazer upload de fotos, mas não podem extrair imagens da internet ou exibi-las nas respostas. O chatbot não pode baixar arquivos para análise, e recursos como Deep Research e Modo Agente são totalmente desativados. O Modo de Bloqueio não altera a memória, o upload de arquivos, o compartilhamento de conversas ou o uso de conversas para aprimorar modelos. A OpenAI também está introduzindo um gerenciador de sessão ativa que permite aos usuários visualizar e desconectar dispositivos ou navegadores que acessam suas contas, com o logout completo levando até 30 minutos. Para ativar a configuração, os usuários devem abrir as configurações do ChatGPT, selecionar Segurança e privacidade, depois Segurança avançada e ativar o Modo de Bloqueio. A desativação temporária está disponível por chat.

Artigos relacionados

Illustration of a woman using ChatGPT voice features on a tablet in a living room setting.
Imagem gerada por IA

OpenAI lança novos modelos de voz GPT-Live para o ChatGPT

Reportado por IA Imagem gerada por IA

A OpenAI começou a disponibilizar dois modelos de voz atualizados para o ChatGPT que permitem ouvir e falar simultaneamente. As mudanças visam criar conversas mais naturais.

A OpenAI anunciou na quinta-feira um recurso opcional de Segurança de Conta Avançada para usuários preocupados com ataques de phishing em suas contas ChatGPT e Codex. O novo modo impõe controles de acesso rigorosos para evitar a invasão de contas. Ele é voltado para indivíduos preocupados em se tornarem vítimas de hackers.

Reportado por IA

A OpenAI lançou uma ferramenta de segurança opcional que permite aos usuários adultos do ChatGPT designar um adulto de confiança que pode ser alertado sobre possíveis riscos de automutilação detectados em conversas. O recurso, chamado Contato de Confiança, envolve uma revisão humana antes que qualquer notificação seja enviada.

Trabalhadores remunerados para treinar modelos avançados de IA estão recorrendo cada vez mais a chatbots como o ChatGPT para gerar as conversas e testes necessários. Esse atalho, descrito como difundido por diversas fontes, corre o risco de degradar a qualidade de futuros modelos por meio do treinamento recursivo em dados sintéticos.

Este site usa cookies

Usamos cookies para análise para melhorar nosso site. Leia nossa política de privacidade para mais informações.
Recusar