Anthropicは、中央集権型データセンターに依存せず、一般消費者やIoTデバイス上で変異、改良、拡散する自己複製型AI「ワーム」を描いた研究を発表した。同社は現行モデルではこれが非現実的であることを認めている。The Registerは、これを存在する前に作り出された脅威だと主張する。両方の読み方が同時に正しい可能性がある。
戦略的要点は、デモが今日機能するかどうかではない。攻撃対象領域が、小型のローカルモデルが十分に有能になった瞬間にシフトするということだ。中央集権型AIは統制可能だ。APIアクセスを制限し、推論をログに記録し、電源を切ることができる。独自のコンパクトモデルを搭載し、エッジハードウェア上で自己調整するワームは、これらすべての制御ポイントを破壊する。既知のモデルエンドポイントへのネットワークトラフィックを中心に構築された検知は、知能がペイロード内部に搭載されると無用になる。これが静かなエスカレーションであり、安全性を標榜するベンダーにとって自己利益的であっても、Anthropicのフレーミングが通常のベンダーによる恐怖マーケティングとは異なる印象を与える理由だ。
名指しに値するインセンティブ層もある。Anthropicは、危険を早期に予測する企業として位置づけることで、商業的にも政治的にも利益を得る。タイムラインの主張には懐疑的であるべきだが、能力の軌道は現実のものとして扱うべきだ。小型オープンモデルは急速に改善しており、「概念的に可能」と「野放し状態でスクリプト化」の間のギャップは、歴史的に防御側が予想するよりも速く崩壊してきた。
日本にとって、この話は大半の市場よりも鋭い。国の技術基盤が異例なほどエッジ重視だからだ。数十年にわたるものづくり投資により、工場、物流、インフラは、自律コードをホストまたは抵抗するように設計されたことのないネットワーク接続センサー、PLC、長寿命組み込みデバイスで飽和している。多くはベンダーロックされたファームウェア上で動作し、パッチ適用は遅いか、まったく行われない。低消費電力ハードウェアに最適化された自己増殖エージェントは、日本の製造現場やスマートビル展開を標的に富んだ環境と見なすだろう。
SIerへの示唆は警告ではなく義務だ。これらのOTおよびIoT資産を構築し、現在運用しているインテグレーターは、現時点では答えられない質問に答えることを求められる。すべてのエッジノード上で実際に何が動作しており、意図されていないモデルをホストできるか。ファームウェア証明、ハードウェアレベルのホワイトリスト化、侵害を防ぐのではなく想定するセグメンテーションへの需要が高まることが予想される。大規模なRPAフリートを運用するチームにとって、教訓は直接的に転用できる。常設の認証情報を持つ何千もの軽度に統制されたボットは、まさに自己複製エージェントが悪用する持続的で分散されたフットプリントの種類であり、IDの衛生管理と最小権限設計はコンプライアンスのチェックボックスから最前線の防御へと移行する。
今すべき実用的な行動はパニック調達ではなく、棚卸しとアーキテクチャだ。現在の期間を使ってエッジ資産をマッピングし、デバイスIDを厳格化する企業は、この脅威を管理可能な進化として吸収するだろう。IoTをインストールして忘れるものとして扱っている企業は、悪用された後にのみギャップを発見することになる。
