学習ではなく推論が、静かにメモリ階層を書き換えている。長文脈での会話やマルチステップエージェントの実行はそれぞれ、メモリ内で増大するキー・バリュー・キャッシュを保持し、そのフットプリントは文脈長、同時実行数、並行動作するエージェント数に応じて拡大する。DRAMとHBMの供給が逼迫しアクセラレータ向けに価格設定される中、事業者はオーバーフローを下位層に押し下げており、高速データセンター向けSSDが解放弁となっている。容量、レイテンシ、耐久性に分かれる設計要件は、実際のワークロードを反映している。推論は書き込みよりもキャッシュ読み取りが圧倒的に多く、予測可能なテールレイテンシを重視し、不均一なガベージコレクションを持つドライブにペナルティを課す。

対抗要因はタイミングである。UBSによるAIデータセンター建設遅延がチップ需要に「エアギャップ」を開く可能性があるとの警告は、ストレージ受注がコンピュート受注と同じ建設スケジュールに連動するため重要だ。ラック設置が2、3四半期ずれ込めば、KVキャッシュ駆動のSSD立ち上がりも同様に遅れ、積極的な予測に基づいて生産能力を増強したサプライヤーは需要の空白に直面する。構造的なシグナルはNAND型フラッシュメモリに強気だが、短期的なペースはコンクリート、電力接続、GPU割り当てに左右され、これらは大半の部品ベンダーが制御できない要素だ。

日本にとって、これはKioxiaと国内NAND供給チェーンに直接影響する。彼らは概ね逸したHBM競争よりもエンタープライズSSD機会に近い位置にいる。推論状態のフラッシュメモリへの持続的なシフトは、耐久性重視のコントローラとQLCロードマップを持つプレーヤーに有利に働き、日本の製造拠点にコモディティ化したコンシューマ向けNANDよりも明確な需要ストーリーを与える。リスクは同じエアギャップだ。規制当局、電力網、ハイパースケーラーのタイムラインが延期する可能性のある立ち上がりに対し、今投入される設備投資である。

日本のSIerやエンタープライズITチームにとって、実務上の教訓は、AIコストモデルに大半のサイジング演習が無視するストレージ階層が加わったことだ。オンプレミスまたはソブリン推論を計画するチームは、KVキャッシュ成長を後付けではなく第一級の容量項目としてモデル化し、GPUメモリが制約条件となる場合にSSDが文脈状態を吸収できる階層化を設計すべきだ。GPU数のみに基づく調達は、コストとレイテンシの両方を見誤る。ストレージアーキテクチャを下流の購買ではなくAIスタックの一部として扱う企業は、最初の容量危機で学ぶことになる競合他社よりも安価にエージェントを実行するだろう。