ノイマン・ドクトリン:なぜシステミック・リスクがテクノロジーを支配するようになったのか

コンピューティング・システムがいかに故障するかを70年間研究してきたSRI Internationalの科学者Peter G. Neumannが、5月17日に93歳で死去した。彼の中心的な思想は、今やエンタープライズ・テクノロジーにおいて最も価値ある枠組みとなっている。

Neumannの洞察は一見シンプルだった。セキュリティとは後付けする機能ではなく、アーキテクチャの最初の一行から設計し込む特性である、というものだ。彼はProvably Secure Operating Systemでこれを証明し、Dorothy Denningとともに現代の侵入検知技術の種を蒔いた。あらゆるワークフローに生成AIを組み込もうと競う今日の経営幹部にとって、これは不都合な教訓である。ほとんどのエンタープライズAIスタックは後付けであり、読み取り、書き込み、行動する自律エージェント向けに構築されたことのないレガシー・データパイプや権限構造の上にモデルを重ねたものだ。Neumannなら、これをトリガーを待つシステミック障害と呼んだだろう。

そのタイミングは示唆的だ。フロンティア・ラボが安全性リーダーシップを失い、インフラ支出が加速する中、ガバナンスは基盤ではなく摩擦として扱われている。人的要因、政策の失敗、組織的怠慢をセキュリティの定義に織り込んだNeumannのシステムレベルの視点は、エージェント型AIのリスク、すなわちサプライチェーン侵害、モデル汚染、相互接続されたサービス全体にわたる連鎖障害に、ほぼ完璧に対応している。最大手のAIおよびデバイスメーカー間で最近起きている企業秘密紛争や人材引き抜きの波自体が、彼が警告した脆弱性の症状であり、競争圧力が組織的規律を上回っている状況を示している。

グローバル・リーダーへの戦略的示唆。第一に、AI導入を生産性スプリントではなく信頼性問題として扱い、モデルアクセスと同じ階層でレッドチームや形式検証に投資すること。第二に、ハードウェアに根差したセキュリティに注目すること。NeumannはCHERIを提唱した。これは現在Armが試験的に導入し、英国と米国の防衛プログラムが支援するメモリ安全性アーキテクチャであり、数十年来のエクスプロイト分類に対する稀有な構造的解決策である。Arm、Intel、RISC-Vベンダーのチップ・ロードマップを評価する企業は、メモリ安全性を重視すべきだ。第三に、投票システムからAI監査証跡まで、検証可能性を低信頼市場における競争上の差別化要因として投資すること。

今後10年で優位性を複利的に積み上げる企業は、最速で出荷する企業ではなく、攻撃下でもシステムが優雅に劣化する企業である。Neumannは70年間その主張を続けてきた。市場はようやくそれに耳を傾けることを強いられている。