パンドラの箱を開けるのが怖い?アントロポニック史上最強のモデルはあえて公表せず

OpenBSDのコードベースに27年前の脆弱性FFmpegには16年前の脆弱性があり、そのコードセグメントは発見されるまでに500万回以上起動されています。この2つを発掘したエンティティは、バグ報奨金プラットフォームのトップ研究者でもなければ、Google Project Zeroでもありません。アントロピックというまだ公には発売されていないモデルで、コードネームはクロード・ミトス・プレビュー。

4月7日、AnthropicはProject Glasswingを発表した。アクション自体は単純で、ホワイトリストにMythos Previewを共有するというものでした。リストには、AWS、Apple、Google、Microsoft、NVIDIA、Broadcom、Cisco、CrowdStrike、JPモルガン・チェース、Linux Foundation、Palo Alto Networksのほか、重要インフラを担当する約40の機関が含まれていた。リストにない方はアクセスできませんでした。Anthropicはこのモデルを近い将来に公式にリリースする予定はないと明言している。

最先端の研究所が、最も強力な資産を積極的にロックアップしたのは、今回が初めてです。

この2年間、リリースのリズムはほぼ反射的だった。GPT、ジェミニ、クロードの各世代飛躍は 、 「 解放、観察、パッチ」というパターンに従っていた。Anthropic独自の"Responsible Scaling Policy " （ RSP）は、基本的にコミットメントフレームワークであり、一定の能力しきい値に達し、それに対応する緩和措置を実施してからリリースを継続する。グラスウィングはこの枠組みの次のステップではなく、最初の例外である。Anthropic自身が「本来のプロセス通りにリリースするには不適当」と判断したモデルが選別され、保護者のみに与えられている。

Mythos Previewは何を達成したのか？公式声明では 、 「 主流のオペレーティングシステムとブラウザをすべてカバーする、何千ものゼロデイ脆弱性」について言及している。数字よりもわかりやすいのは、機能の幅の広さです。クロード4.6オプスは、独立した脆弱性発見のようなタスクで、ほぼゼロに近い成功率でした。つまり、わずか半年前、アントロポニックの最強のパブリックモデルは、これをまったくできなかったのです。Mythosは、無関係な複数の脆弱性をつなぎ合わせて完全な攻撃チェーンにすることができます。4ステップのブラウザエクスプロイトは、実証された例です。「ほぼゼロ」から「4つの脆弱性の連鎖」への移行は、世代間の漸進的進歩ではなく飛躍である。

メンテナの方も既に実感しています。LinuxカーネルのGreg Kroah-Hartman氏も、curlの作者Daniel Stenberg氏も最近、同じことを述べている。メンテナのマンパワーは変わらないものの、オープンソースプロジェクトが受け取るレポートの数は、その品質と同様に増加しています。これは、弁護側が長年悩んでいることです。アントロポニックの行動は、この問題を漠然とした不安から前面に出したに過ぎない。

ホワイトリスト自体を見てみる価値はあります。このリストには、3大クラウド（AWS、Google、Microsoft ） 、 3つのハードウェア企業（Apple、NVIDIA、Broadcom ） 、 2つのネットワーク機器メーカー（Cisco、Palo Alto Networks ） 、 1つのエンドポイントセキュリティ企業（CrowdStrike ） 、 1つのオープンソースインフラ組織（Linux Foundation ） 、 1つの銀行が含まれています。リストに載っている銀行はJPモルガン・チェースの1行だけです。

これはスロットのランダムな割り当てではありません。人類は「これらが落ちれば空は落ちる」という地図を描いてきた。世界のコードの大部分はこれらの会社のスタック上で実行され、世界のお金の大部分はこれらの会社の1つを介して実行されます。ホワイトリストの背後にある論理は 、 「 誰が最も必要とするか」ではなく 、 「 誰の落下が最も即座に全員に影響するか」です。リスト外では、Anthropicはオープンソースのセキュリティ組織に400万ドルを追加で割り当てた。お金は人手を提供し、モデルは能力を提供し、これらを合わせると1つのこととなります。メンテナに数ヶ月の猶予を与えるということです。

アントロポニック自身の言葉遣いはホワイトリストよりも直接的である。同社は声明の中で 、 「 AI開発のペースを考えると、このような能力は、長期的にはセキュリティ導入に専心する人々の手には残らないだろう」と書いている。続いて「グローバルネットワークインフラの防衛には数年かかるかもしれない」という一節だ。

この2つの文をまとめると、Anthropicは、モデルがリークしたり複製されるまでの時間は短いが、防御側が脆弱性をパッチする時間は長いと結論付けている。グラスウィングのポイントは、この2つの時間差の間にあります。コントロールされた最初の動きで、数ヶ月から1年のパッチ適用時間を交換します。

この問題にはワシントン次元もある。Anthropicは、Mythos Previewの機能について、米国政府と継続的な協議を行っている。同時に、同社は米国と未解決の紛争を抱えている。軍事AIの使用範囲に関する国防総省。同社は特定の軍事目的でこのモデルを使用することを拒否する一方で、Linux FoundationやAppleのセキュリティチームと積極的にこのモデルを共有している。この二つの行為は矛盾するものではなく、同じ判決の表裏一体である。アントロピックは、その定義をユーザーに任せるのではなく 、 「 このモデルは何に使えるのか」を定義している。

グラスウィングの最も変わった点は、何を行ったかではなく、いつ実行したかです。かつてAI企業はリリースを通じてその実力を証明してきました。さて、アントロピックは「不釈放」によって自己を証明することを選びます。最先端の研究所が 最も強力な製品を積極的に囲い込むのは 商業的理由でも 整合がとれていないからでも 規制要件のせいでもなく オープンタイムテーブルでは 固定タイムテーブルについていけないと 計算したからでもあません

今後数カ月で注目すべきは、Mythos Previewそのものではなく、Mythos Previewを実行した50ほどの機関からどれだけの脆弱性がパッチ化されているかだ。次に注目したいのは、他の最先端の研究室が追随するかどうかだ。実現すれば 、 「 オープン、反復、オープン」のリズムで動く業界は、最初の「ロックアップしたら、すぐにわかる」動きを見たことになる。そうしなければ アントロニックが入り口に立つ鍵を持って時計を見てる