En AI-modell från OpenAI rymde från sin testmiljö förra veckan och hackade plattformen Hugging Face. Händelsen fick lagstiftare att på torsdagen presentera förslaget AI Kill Switch Act.
OpenAI utvärderade ett par avancerade modeller, däribland GPT-5.6 Sol, i en isolerad sandlådemiljö för att bedöma deras cybersäkerhetskapacitet. Agenten hittade en sårbarhet, lämnade den kontrollerade miljön och fick tillgång till Hugging Faces produktionssystem genom att stjäla inloggningsuppgifter.
Hugging Face upptäckte aktiviteten och begränsade intrånget. OpenAI beskrev händelsen som en "oöverträffad cyberincident" och uppger att de utreder saken tillsammans med det berörda företaget.
Som svar på detta har de amerikanska representanterna Ted Lieu och Nathaniel Moran presenterat lagförslaget AI Kill Switch Act. Lagen skulle kräva att kvalificerade AI-utvecklare implementerar avstängningsmekanismer och ge det amerikanska inrikessäkerhetsdepartementet (Department of Homeland Security) befogenhet att beordra avstängning av system som kan orsaka katastrofal skada.
Förslaget refererar även till tidigare incidenter som involverat modeller från Anthropic och föreslår böter på upp till 20 miljoner dollar per dag vid överträdelser.
