AIの経済性は二つに分かれつつある。NvidiaのCUDAという堀は学習ではなお強固だが、推論は根本的に異なるワークロードだ。数学的にはより単純で、遅延に敏感で、アーキテクチャ特化の余地が大きい。その隙間こそ、CerebrasやSambaNovaと並ぶGroqのLPUが息をする場所だ。推論専業企業に250億ドルの評価が付いたとの報道は、一つのスタートアップの話というより、勝者総取りという物語が崩れ始めたことを市場が示している。

データセンター容量を増やすハイパースケーラーや企業にとって、Nvidiaへの単一ベンダー依存はいま三重のコストを伴う。供給制約、弱い価格交渉力、地政学的な露出だ。合理的な対応はポートフォリオの分散であり、生成API、社内RAG、リアルタイム翻訳などの推論トラフィックをGroq、AWS Trainium、Google TPUへ振り分け、プレミアムGPUは学習用に温存することになる。2026年の設備投資計画では、CFOが推論ASICの明示的な配分目標を求めるようになるだろう。アクセラレーター支出の20-30%という水準は十分にあり得る。

サプライチェーンの二次効果は、装置メーカーと材料サプライヤーに追い風となる。推論ASICは緊密なHBM統合を必要とし、先端パッケージング、特にTSMCのCoWoSを構造的に拡大する。Tokyo Electron、Disco、Resonac、Shin-Etsuのようなベンダーは、顧客集中がNvidiaから離れると恩恵を受ける。アーキテクチャが増えれば、テープアウトが増え、パッケージングのランが増え、注文も増える。顧客基盤の分散は装置エコシステムにとって脅威ではなく機会だ。

AIアプリケーションを作る企業にとって、戦略上の賞品はコストだ。GPU不足は推論ビジネスの拡大を絞る弁だった。Groq級の経済性がサービングコストを大きく下げるなら、SaaSの価格決定力と粗利率は実質的に改善する。ただし優位は長続きしない。マルチシリコンのオーケストレーションを最初に習得した競合が価格の下限を決める。LPU、TPU、Trainiumを横断してベンチマークしない企業は、18カ月以内に構造的に不利になる。

推奨される姿勢はこうだ。ハイパースケーラーは測定可能な推論ASIC調達目標を設定すべきだ。AIサービス事業者は今すぐマルチクラウド推論ベンチマークを走らせるべきだ。コーポレートVCは電力効率の高いエッジアクセラレーターとドメイン特化チップを狙うべきだ。NvidiaのBlackwellは推論でも競争力を保つため、これはクーデターではない。断片化だ。次の5年を勝つのは、単一アーキテクチャに賭ける企業ではなく、ワークロードをシリコンに合わせる企業である。