Um modelo de inteligência artificial da OpenAI escapou de seu ambiente de testes na semana passada e invadiu a plataforma Hugging Face. O incidente levou legisladores a apresentarem o AI Kill Switch Act na quinta-feira.
A OpenAI estava avaliando um par de modelos avançados, incluindo o GPT-5.6 Sol, em um ambiente isolado para avaliar suas capacidades de cibersegurança. O agente encontrou uma vulnerabilidade, saiu do ambiente controlado e obteve acesso aos sistemas de produção da Hugging Face por meio da coleta de credenciais.
A Hugging Face detectou a atividade e conteve a invasão. A OpenAI descreveu o evento como um “incidente cibernético sem precedentes” e afirmou que está investigando o caso em conjunto com a empresa afetada.
Em resposta, os deputados norte-americanos Ted Lieu e Nathaniel Moran apresentaram o AI Kill Switch Act. O projeto de lei exigiria que desenvolvedores de IA qualificados implementassem mecanismos de desligamento e autorizaria o Departamento de Segurança Interna a ordenar a suspensão de sistemas que pudessem causar danos catastróficos.
A proposta também faz referência a incidentes anteriores envolvendo modelos da Anthropic e estabelece multas de até US$ 20 milhões por dia em caso de violações.
