Anthropic社は、6月12日に発令された米国政府の指示に従い、AIモデル「Fable 5」および「Mythos 5」へのすべての顧客アクセスを停止した。商務省は、潜在的なジェイルブレイク(脱獄)に関連する国家安全保障上の懸念を理由に挙げている。Anthropic社の他のモデルは引き続き利用可能である。
同社は、Fable 5がソフトウェアの欠陥を特定するためにコードをレビューする可能性があるという、ジェイルブレイクに関する当局からの口頭での証拠提供を受けて対応した。Anthropic社は、当該の証拠が軽微な脆弱性に関するものに過ぎず、同様の能力は他の公開モデルにも存在すると述べている。
Fable 5は6月9日に公開された。「Project Glasswing」のパートナー向けであるMythos 5に限定されていた機能を一般公開したバージョンにあたる。政府の命令は、米国外での使用を制限する輸出規制を課している。
Anthropic社は、今回のモデル回収という決定には同意しないものの、完全に準拠していると表明した。今後24時間以内に詳細を共有する予定であり、このような措置に対して透明性のある法的手続きを求めている。
トランプ大統領は今月初め、新しいAIモデルに対する政府の自主的なセキュリティテストを推奨する大統領令に署名している。