Anthropicは、最新AIモデル「Claude Fable 5」の再提供に伴い、サイバーセキュリティ対策の具体的な線引きと、AIの安全装置を無効化する「脱獄（ジェイルブレイク）」の深刻度を評価する共通基準の草案を公開した。単なる技術開示に留まらず、二面性を持つAI機能を社会実装する上での分厚い防御設計と、業界を横断したリスク評価の標準化を狙う一手だ。

4段階の危険度分類、安全マージンで挟む防御設計

Fable 5のサイバー攻撃対策において、Anthropicは利用者の要求を「禁止」「高リスク二面利用」「低リスク二面利用」「良性」の4つに分類している。特徴的なのは「低リスク二面利用」の扱いだ。本来なら許容したい防御的な用途であっても、悪用リスクがゼロではない場合、意図的に「安全マージン」を設けてブロックする。これは攻撃の前段階となりうる探索行為を防ぐための安全側への設計であり、前世代モデルよりもマージンを拡大した点に、開発元の警戒感が滲む。防御と利便性のトレードオフを、AI提供者自身が構造的に抱え込む実装と言える。

「脱獄」の深刻度を巡り、共通言語の欠如に挑む

今回注目すべきは「AI脱獄深刻度フレームワーク」の草案だ。現在、プロンプトの工夫で安全装置をすり抜ける脱獄の危険度評価は、開発者ごとに基準がバラバラだ。ある企業では軽微とされる脱獄が、別の企業では重大な脅威と見なされる。この不整合が、政府との対話や業界全体の安全基準策定を遅らせてきた。Anthropicはパートナー組織との協業を経て、この「評価の目盛り」を共通化しようとしている。悪用の幅や被害の深刻度に基づき脱獄を体系化できれば、個別の報告に依存しない、客観的なリスク情報の共有が可能になる。

バグ報奨金から標準化へ、防御側の生態系を育成する狙い

基準の公開と同時に、ハッカー向け報奨金プログラム「HackerOne」の対象をFable 5の脱獄発見にも拡大した。この動きは、単なる脆弱性の修正に留まらない。外部のセキュリティ研究者を巻き込み、悪用可能性のあるプロンプト構造を早期に収集することで、フレームワークの実効性を高める狙いがある。攻撃手法の提出を奨励する仕組みと、共通の深刻度基準を並行して育てる戦略は、AIの防御を一部の開発者だけに任せず、広範な研究コミュニティによる生態系へと昇華させる布石だ。

二面性技術との共存、許容と禁止の境界を定義する競争へ

今回の発表が示す本質的な転換点は、AI安全性の競争軸が「技術的性能」から「許容範囲の線引きと標準化」へとシフトしつつあることだ。脆弱性スキャンのような二面性を持つ機能は、もはや「完全に塞ぐ」ことは現実解になりえない。その代わりに、何を高リスクとみなし、どこまでを安全マージンとして犠牲にするか、その定義と透明性こそが、エンタープライズ顧客や規制当局への信頼を獲得する手段となる。Anthropicが草案を外部の批判に開いたのは、自社基準の押し付けではなく、議論を通じた事実上の業界標準形成を目指す攻めの布石と読める。