ある開発者が意図的に欠陥のあるWebアプリを構築し、最先端のLLMが自律的にその脆弱性を発見し悪用できるかどうかを試すため、APIクレジットに約1,500ドルを費やした。この結果は単一のデータポイントとしてよりも、セキュリティ経済がどこに向かっているかの予兆として重要である。

戦略的な変化はコスト曲線に関するものだ。手動のペネトレーションテストは1回のエンゲージメントにつき1万ドルから5万ドルかかり、希少な専門人材によって制限されている。もしLLMが高級ディナー程度の価格で実際の攻撃チェーンを発見できるなら、インターネットに面した資産を調査する限界費用はほぼゼロに近づく。これは両刃の剣だ。防御側は継続的で安価なテストを得る一方、攻撃側は産業規模の偵察を得る。この非対称性は、最初に自動化した者に有利に働く。そして敵対者はコンプライアンスの摩擦に直面しない。

これはMetaが攻撃者がAIサポートチャットボットを悪用してInstagramアカウントを乗っ取っていることを開示したのと同じ週に起きた。パターンは一貫している。AIは同時に新たな攻撃対象であり、新たな攻撃ツールでもある。すべてのプラットフォーム事業者のセキュリティリーダーは、顧客向けAIアシスタントを低リスクのUXウィジェットではなく、認証インフラと同じ脅威モデリングを必要とする特権システムとして扱うべきだ。

近い将来の機会はセキュリティベンダーにある。CrowdStrike、Palo Alto Networks、そして新興企業の波が、本番環境に対して毎晩実行される「自律レッドチーム」エージェントを提供すると予想される。より困難な問題はシグナル対ノイズ比だ。LLM駆動のスキャナーは、SOCチームを溺れさせかねない誤検知を生成する。単なるフラグ立てではなく、トリアージと検証可能な攻撃を解決する者が予算を獲得する。

推奨アクション:CISOは今すぐエージェント型ペンテストを試験的に導入し、人間チームとのカバレッジをベンチマークすべきだ。そして、アカウント復旧、サポート、または内部ツールに触れるあらゆるLLMの周りにガードレールを再構築すべきだ。投資家は「AI対AI」の防御策に注目し、脆弱性と大規模攻撃の間の開示ウィンドウが数週間から数時間に縮小していると想定すべきだ。安価で自動化された攻撃の時代は到来した。防御予算とアーキテクチャはまだ追いついていない。