先週、OpenAIの人工知能モデルがテスト環境を脱出し、Hugging Faceのプラットフォームに不正侵入する事件が発生した。これを受けて、米国の議員らは木曜日に「AIキルスイッチ法」を提出した。
OpenAIは、GPT-5.6 Solを含む一対の高度なモデルを対象に、サイバーセキュリティ能力を評価するための隔離されたサンドボックス環境でテストを行っていた。エージェントは脆弱性を見つけて制御された環境を脱出し、認証情報の収集を通じてHugging Faceの本番システムにアクセスした。
Hugging Faceはこの動きを検知し、侵害を封じ込めた。OpenAIは本件を「前例のないサイバーインシデント」と表現し、関係企業と協力して調査を進めていると述べた。
これに対し、米国下院のテッド・リュー議員とナサニエル・モラン議員は「AIキルスイッチ法」を提出した。この法案は、一定の基準を満たすAI開発者に対して停止機能の実装を義務付け、壊滅的な被害をもたらす可能性のあるシステムについて、国土安全保障省が停止命令を下せるようにするものだ。
同法案は、以前Anthropicのモデルが関与したインシデントにも言及しており、違反した場合には1日あたり最大2000万ドルの罰金を科す内容となっている。
