AMD's MI400Xは256GBのHBM4を搭載するが、これは単なるスペック上げではない。次のAIの戦場は生の計算能力ではなく、メモリ容量と帯域であるという賭けだ。Nvidiaが世代をまたいでHBM3eから漸進的な改善を絞り出す一方、AMDは次世代メモリへ飛び越え、推論のユニットエコノミクスを再定義しようとしている。
タイミングは意図的だ。生成AI'sの重心が2026年にかけて訓練から推論へ移るにつれ、メモリ依存は強まる。Mixture-of-Expertsアーキテクチャや長コンテキストワークロードは単一GPUのモデルフットプリントを圧迫し、256GBはシャーディングなしで1基のアクセラレーターがホストできる範囲を大きく広げる。ハイパースケーラーにとって、これは本物の第二供給源になる。Microsoft、Meta、OracleにはNvidia's価格決定力を薄める強い動機がある。そしてAMD's ROCmのソフトウェアギャップ、長く同社のアキレス腱だった問題は、ワークロードが壊れやすい訓練パイプラインではなく推論である場合、重要度が下がる。
より深い物語はサプライチェーンにある。HBMの各世代は、TSV、ハイブリッドボンディング、先端パッケージ材料に求められる技術水準を引き上げる。供給できる少数企業の堀はさらに深くなる。精密成膜・エッチング装置、ダイシング装置、ABF基板、後工程材料のサプライヤーは、HBM3eに比べてHBM4 1ユニット当たり20〜30%高い価値を取り込む余地がある。これは製品発表の姿をしたマージン拡大の物語であり、根付いたプロセスノウハウを持つ既存勢は優位を複利化するだろう。
反論は、HBM参入を狙う後発勢には厳しい。SK HynixとSamsung'sが10年以上かけて築いたDRAMリードに追いつくには、数十億ドル規模のファブと即時の歩留まり同等性が必要だ。ゼロからの立ち上げとしてはほぼ不可能である。現実的な後発勢は、HBMシェアを正面から奪いに行くのではなく、CXLメモリプーリングやLPDDR派生といった隣接戦場へ軸を移すべきだ。
調達責任者には三つの動きが重要だ。Nvidia、AMD、カスタムシリコンをまたいで四半期ごとのTCOシナリオを走らせ、動き続ける推論コストの最前線を追跡する。エッジおよび自動車AIの調達をHBMブームから切り離す。これらの領域はLPDDRとGDDRに依存するからだ。そして、アクセラレーター世代が設備投資サイクルより速く入れ替わることを前提に、3〜5年のロードマップを構築する。今日の単一ベンダーロックは、あらゆる賭けの中で最も高くつく。