IDCとIEIT Systemsからの警告によれば、世界的なコンピュート供給・需要ギャップは2030年まで拡大し続け、高帯域幅メモリが主要なボトルネックとなる。この数字の背後にある、より興味深い事実は、需要の規模だけでなく、その性質が変化しているということだ。

フロンティアモデルの訓練は、プロジェクトベースの断続的なワークロードである。AIエージェント群の運用はその正反対だ。エージェントは推論ステップを連鎖させ、ツールを呼び出し、再試行し、長時間実行されるタスク全体でコンテキストを保持する。つまり、実際の作業単位あたりの推論サイクル消費量が、単一のチャットボットクエリをはるかに上回る。これによりAIコンピュートは、資本支出のスパイクから、人員数とワークフロー導入に応じてスケールする継続的な運用負荷へと転換される。HBMが最も深刻な影響を受けるのは、エージェント型推論が単なるFLOP制約ではなく、メモリ帯域幅制約だからだ。制約がスタックDRAMと先端パッケージング能力であり、それらを制御するサプライヤーがごく少数に限られている以上、単にロジックダイを増産しても解決できない。

グローバルな影響は、価格決定力の二極化である。HBM割当を確保し、カスタムシリコンを持つハイパースケーラーは、内部で容量を配分し、自社のエージェント製品を優先する一方、下流のすべての企業は変動の激しい推論コストに直面する。推論価格は従来ほど滑らかに下落しなくなり、「エージェント経済性」はエンジニアリングの脚注ではなく、取締役会レベルの項目になると予想される。イタリアの原子力投票や広範なエネルギー争奪戦は、電力網を通して見た同じストーリーだ。メモリとメガワットが、エージェントがどこまでスケールできるかの二つの厳しい限界となっている。

日本市場にとって、この制約は両面的だ。供給側では、日本はボトルネックに異例なほど近い位置にある。材料、パッケージング化学、HBMスタッキングを可能にする装置は日本企業を経由しており、Rapidus時代の野心が戦略的重要性を持つのは、まさに先端メモリとパッケージングが希少な投入資源だからだ。これは誇大宣伝サイクルではなく、真に持続可能な機会である。

需要側では、日本企業とSIerにとって状況は厳しい。国内のAIインフラは米国のハイパースケーラーと比べて依然として薄く、拡大する世界的なコンピュートギャップは、日本の購入者がより弱い立場から割当を争うことを意味し、しばしば軟調な円で支払うことになる。労働裁定と複数年のシステムインテグレーション契約に基づくSIerは、エージェント推論コストを今すぐ第一級の設計制約として扱うべきだ。勝つチームは、デフォルトで効率性を重視した設計を行う。積極的なキャッシング、小規模なタスク特化型モデル、安定したワークロードに対するオンプレミスまたはエッジ推論、早期に交渉された予約容量契約などだ。RPAベンダーは最も厳しい価格見直しに直面する。決定論的なルールベースのボットは実行コストが安い。それらをエージェント型推論で置き換えることは強力だが、はるかに多くのコンピュートを消費し、HBM制約下の世界では、安易な「すべてをエージェント化」という提案は単位経済性と衝突する。国内開発チームにとって実用的な道はハイブリッドだ。ルールで十分な場合は決定論的自動化を維持し、真に曖昧な作業のためにエージェントを予約し、タスクごとのトークンとメモリコストを初日から計測することだ。