いつもは日曜に「週刊AI」として、その週の動きをまとめてお届けしていますが、今週はFableの件があまりに大きかったため、通常号をお休みして特別号としてお送りします。
日本時間6月10日未明に公開されたAnthropicのClaude Fable 5は、米国時間6月12日の政府指示を受け、公開から約3日で全顧客向けのアクセスが停止されました。米政府が求めたのは外国籍者によるFable 5とMythos 5へのアクセス停止でしたが、Anthropicは規制順守のため、全顧客のアクセスを止めたと説明しています。
現時点で確認できているのは、次の3点です：
米政府の指示により、Fable 5とMythos 5へのアクセスが停止したこと
リスク評価の深刻さをめぐり、Anthropicと政府の見解が分かれていること
Anthropicは6月13日の声明で、24時間以内に追加の詳細を共有するとしていた
以下、関係者の発言を中心に経緯を整理していきます。
公式発表からわかること
公式のX投稿
公式声明
米政府は、国家安全保障上の権限を根拠に、すべての外国籍者によるFable 5とMythos 5へのアクセスを停止する輸出管理上の指示を出しました。
（中略）私たちは、政府が安全でない展開を差し止める権限を持つべきだと考えています。ただしそれは、透明で、公平で、明確で、技術的事実に基づいた法的手続きの一部としてです。今回の措置は、その原則に沿っていません。
（中略）政府指示の根拠とみられる報告書を確認しましたが、そこで示された能力水準は、OpenAIのGPT-5.5を含む他のモデルでも広く利用でき、システムを守る防御側の人々が日常的に使っているものでした。限定的な条件下でのジェイルブレイクの可能性が見つかったことを、数億人に提供されている商用モデルを回収する理由にすべきだとは考えていません。
（中略）私たちはこれを誤解だと考えており、できるだけ早くアクセスを回復できるよう取り組んでいます。
Anthropicは、政府に差し止め権限があること自体は認めつつも、今回の手続きを問題視しています。
指示を受け取ったのは6月12日午後5時21分（米東部時間）でした。
同社によれば、政府はFable 5のガードレールを回避する方法、すなわち「ジェイルブレイク」の存在を問題視していましたが、書簡に具体的な根拠は示されていなかったということです。
Anthropicの発表内容
声明の要点は次のとおりです
開示されたジェイルブレイクは、特定のコードベースを読ませてソフトウェアの不具合を修正させるもので、その結果は無害な応答に留まるか、Mythos固有の能力を向上（uplift）させるには至らない軽微なものだった。
米政府、英国AI Safety Institute、外部組織、社内チームと数千時間規模のレッドチーミングを実施したが、広範囲で安全策を回避できる「universal jailbreak」はまだ見つかっていない。
完璧なジェイルブレイク耐性はどのプロバイダーにとっても不可能であるという前提に立ち、攻撃を限定的かつ高コストにし、監視と組み合わせて検知・遮断する戦略をとった。その調査を可能にするため、顧客データを30日間保持する。
一部のアカウント停止などは誤解によるもので、現在、早期のアクセス復旧に取り組んでいる。
Fable 5とMythos 5の関係
Fable 5とMythos 5の2つのモデルについて、改めて整理しておきます。
Anthropicが「Mythos級」と定義するFable 5は、同社が一般公開した中で最も高い能力を持つモデルです。
一方、Mythos 5はFable 5と同じ基盤モデルでありながら、一部領域の安全分類器を外した「Project Glasswing」経由の限定公開モデルとして位置づけられています。
政府側は、たとえ限定的であってもMythos級のモデルにアクセスできる経路があるならば提供を制限すべきだという立場です。
これに対しAnthropicは、限定的な回避手法のみを理由に制限をかけるなら、GPT-5.5など他のフロンティアモデルも同様の基準で公開停止に追い込まれかねないと反論しています。
Amazonとホワイトハウスの動き
Reutersは、Amazon CEOのAndy Jassy氏が、Anthropicの最先端モデルのセキュリティリスクについて政府高官に懸念を伝えた一人だったと報じています。AmazonはAnthropicの大口投資家であり、クラウドの提供側でもあります。
また、Axiosは次のように報じています
Amazonは木曜の夜、政府当局者に電話をかけ、Anthropicの強力な新モデル「Mythos」の一部にアクセスし、国家安全保障上の脅威となるジェイルブレイク（脱獄）が可能であったことを示すレポートを共有した。
（中略）ただし、Amazonからの連絡に加え、木曜の夜から金曜の朝にかけて、ほかにも少なくとも5社が複数の政府高官に連絡したことが、金曜夜までのモデル停止につながった。
Amazonの広報担当者はAxiosに対し、「政府からセキュリティリスクについて助言を求められることは珍しくないが、その具体的な内容は公表しない」とコメントしました。
Anthropicは6月9日の公開計画を事前に政府へ伝えており、その時点では反対はなかったとも報じられています。関係者によると、金曜午後1時ごろに90分以内のサービス停止を求められ、午後5時半ごろに輸出管理に関する書簡を受領。その後、午後10時ごろにアクセスが遮断されました。
政府側の主張
起業家・投資家で、米政権の政策にも詳しいDavid Sacks氏のX投稿を引用します
David Sacks氏のX投稿翻訳全文
Anthropic社を巡る現在の状況について、政府内外の複数の関係者と話をした結果、私が事実であると確信している内容は以下の通りです。
— すでに周知の通り、Anthropic社は今週初め、「Mythos」クラスのモデルを「Fable」という商標名で一般公開しました。
— Fableの本体はMythosであり、そこにガードレール（安全策）を施したものです。しかし、もしそのガードレールが機能しなければ、Mythosが持つ高度なサイバー攻撃能力を、本来それを手にしてはならない人々にさらすことになります。（忘れてはならないのは、Anthropic社自身が「Mythosはサイバー兵器であり、そのように規制されるべきだ」という考えを広く推進していた点です。彼らは政府にMythosの規制を求め、Fableのガードレールの重要性を説いてきました。したがって、規模の大小にかかわらず脆弱性が見つかった場合、それを修正するのはAnthropic社の責任です。）
— Anthropic社と米政府（USG）の両方が信頼を置く、極めて信憑性の高いパートナーがFableのテストを行っていたところ、ガードレールを突破する「ジェイルブレイク（脱獄）」の手法を発見し、報告しました。これを受け、政府はダリオ（Anthropic社CEO）に対し、ジェイルブレイクを修正するか、モデルの公開を停止するよう求めましたが、ダリオ氏はこれを拒否しました。
— Anthropic社はブログ投稿の中で、「今回のジェイルブレイクは深刻なものではない」と主張し、自らの決定を正当化しました。しかし、前述のパートナーや米政府の認識はそれとは異なります。また、このように問題を過小評価するような言い方は、「AIの安全性を第一に考える企業」というAnthropic社のブランドイメージとも矛盾しています。サイバー兵器の運用を可能にするジェイルブレイクが「深刻ではない」などと、どうして主張できるのか理解に苦しみます。
— これまでAnthropic社は一貫して、安全性こそが最優先事項であり、極めて真剣に取り組むべきだと公言してきました。しかし今回の件では、安全よりも消費者向けモデルの提供継続を優先したのです。
— これに対抗する形で、政府は輸出規制を発動しました。政府としても、これは不本意な決定でした。妥当な安全上の要請（ジェイルブレイク問題の修正）に対して、Anthropic社が協力しようとしなかったことに、政府関係者は非常に驚いています。同社の反応は、安全なAI研究コミュニティとしての彼らの看板や理念とは大きくかけ離れたものです。
— 現在、政府が望んでいるのは、Anthropic社が安全上の問題を解決し、輸出規制が解除され、Fableが再び一般公開されることです。政府はこれらすべてを早急に進めたいと考えています。かつて安全性こそが最優先だと言っていたはずのAnthropic社が、なぜ安全上の要請に従おうとしないのか、率直に言って政府側は当惑しています。
— この件を、以前のDoW（国防省）とAnthropic社の間の問題に結びつけようとする動きがありますが、それは誤解です。政府はAnthropic社の技術力を高く評価しており、今回の問題は深刻ではあるものの、解決は容易なはずだと考えています。結局のところ、ボールはAnthropic社側にあります。
政府側は、輸出管理を制裁ではなく、修正されれば解除する一時的な手段と位置づけています。
通常の安全審査には時間がかかりますが、輸出管理なら外国籍者へのアクセス制限という形で、すぐに提供範囲を狭められます。これは政府側の一方の主張で、Anthropicは深刻度の評価をめぐって反論しています。
ここから先は有料です。
現在、note の AGIラボ メンバーシップでは、新規加入の受付を一時的に停止しています。
これから参加される方は、新サイト agi-labo.com からお申し込みください。（詳細）
※ 新サイトの詳細はこちらです。（Emailを設定するとnoteラボメンバーも新サイトにログイン可能です）
