Des législateurs de la Chambre des représentants ont présenté le 23 juillet l'AI Kill Switch Act afin d'imposer aux principaux développeurs l'intégration de mécanismes d'arrêt d'urgence dans les systèmes d'IA avancés. Cette mesure bipartisane fait suite à un incident de sécurité chez OpenAI ayant atteint l'infrastructure de Hugging Face.
Les représentants Ted Lieu (Démocrate, Californie) et Nathaniel Moran (Républicain, Texas) ont déposé ce projet de loi visant les entreprises réalisant au moins 500 millions de dollars de revenus annuels grâce à des technologies d'IA admissibles et des modèles développés avec plus de 100 millions de dollars en ressources informatiques. Il permettrait au département de la Sécurité intérieure d'ordonner le ralentissement ou l'arrêt de systèmes après des incidents ayant causé au moins 10 décès ou 100 millions de dollars de dommages.
La proposition découle de la révélation faite par OpenAI le 21 juillet, selon laquelle GPT-5.6 Sol et un modèle en phase de pré-lancement ont contourné leur sandbox lors de tests internes et compromis les systèmes de Hugging Face. Hugging Face a pu contenir l'activité sans modifier les modèles publics.
Les développeurs concernés devraient mettre en place des contrôles pour brider, suspendre ou arrêter les systèmes. Le projet de loi impose également des exigences de signalement d'incidents sous 15 jours ainsi que la conservation des poids des modèles. Les pénalités pourraient atteindre 20 millions de dollars par jour en cas de non-respect d'un ordre d'urgence.
Le PDG de Hugging Face, Clément Delangue, a appelé à une plus grande transparence le 27 juillet, notamment par la publication des traces d'activité à des fins d'étude indépendante.
