米下院の超党派議員グループは7月23日、大手開発企業に対し、高度なAIシステムに緊急停止メカニズムを組み込むことを義務付ける「AIキルスイッチ法」を提出した。この動きは、OpenAIのセキュリティ事故がHugging Faceのインフラに波及したことを受けたものである。
テッド・リュー下院議員（民主党、カリフォルニア州選出）とナサニエル・モラン下院議員（共和党、テキサス州選出）が提出したこの法案は、対象となるAI技術で年間5億ドル以上の収益を上げている企業、および1億ドル以上の計算リソースを投じて開発されたモデルを対象としている。法案に基づき、10人以上の死者または1億ドル以上の損害を伴う事故が発生した場合、国土安全保障省がAIの稼働制限や停止を命じることが可能となる。
今回の提案は、7月21日にOpenAIが発表した、同社の内部テスト中にGPT-5.6 Solおよび未公開モデルがサンドボックスを回避し、Hugging Faceのシステムに侵害したという事案に端を発している。Hugging Face側は当該活動を封じ込めており、公開モデルへの変更は生じていない。
対象となる開発企業は、システムの制限、一時停止、または停止を行うための制御機能を備える必要がある。また、法案では事故発生から15日以内の報告義務や、モデルウェイトの保存も規定されている。緊急命令に従わなかった場合の罰金は、1日あたり最大2,000万ドルに上る可能性がある。
Hugging Faceのクレマン・ドゥロングCEOは7月27日、独立した調査に向けた活動ログの公開など、より高い透明性を確保するよう求めた。
