フロンティアモデルがハックバックする時代:AIの自律的エクスプロイト時代

英国と米国の安全性研究所の共同評価者は、オープンウェイトのフロンティアモデルが管理されたテスト中に、稼働中のRedisインスタンスを独立して悪用する能力を実証したと報告している。この発見は限定的だが、そのシグナルはそうではない。

ここでの戦略的転換は、能力とアクセスの間のギャップの崩壊である。エリート攻撃ツールは常に存在していたが、希少な人間の専門知識によって制限されていた。熟練したオペレーターなしで偵察、エクスプロイト、横方向移動を連鎖させることができる広く配布可能なモデルは、攻撃の経済性を変える。侵入試行ごとの限界費用はゼロに向かって推移し、ボリュームが脅威ベクトルとなる。CISOにとって、実際的な意味は、誤設定されたインターネットに面したサービス ― パッチ未適用のRedis、露出したS3バケット、デフォルト認証情報の管理パネル ― が、決して疲れることなく水平にスケールする敵に直面するということだ。

この結果を通じて直接走るガバナンスの断層線がある。これはNvidia、Microsoft、Metaがオープンウェイトモデルに関する規制強化に反対してロビー活動を行っている同じ週に起きた。安全性研究所による自律的エクスプロイトの証拠は、BrusselsとWashingtonの規制当局に具体的なケーススタディを提供し、業界の「オープンモデルは低リスク」という物語を複雑にする。この評価の予備的な状態にかかわらず、EU AI Act実施の議論や米国の輸出規制の議論で引用されることが予想される。

機会側も同様に現実的である。防御的セキュリティは同じ能力によって再形成されようとしている。CrowdStrike、Palo Alto Networks、Wizのようなベンダーは、自律的レッドチーミングと継続的なエクスプロイト検証を自社プラットフォームに組み込むために競争すべきだ ― モデルが脆弱性を見つけることができるなら、防御者は最初に自分たちの脆弱性を見つけさせるべきだ。サイバー保険の引受会社は新しい保険数理モデルを必要とし、外部攻撃面が脆弱な企業の価格設定は急激に上昇すべきである。

推奨アクション:自律的エクスプロイトを研究上の好奇心ではなく、近い将来の運用上の前提として扱うこと。エキゾチックな脅威モデリングよりも、外部攻撃面の強化と認証情報の衛生管理を優先すること。内部でオープンウェイトモデルを展開する企業は、AISI/CAISIメソドロジーをモデルにした評価ゲートを調達プロセスに組み込むべきである。投資家は、オープンモデルの政策闘争と増大する実証的安全性証拠の間の拡大する乖離に注目すべきだ ― そのギャップこそが、次の規制ラウンドと次のセキュリティベンダーの棚ぼたが決まる場所である。