AIの推論シフトが日本のチップ戦略を書き換える

AIの重心が移動した。5年間、話題の中心はスケールだった。より大きなモデル、より多いパラメータ、より大規模な学習実行。今、資金とエンジニアリングの関心はモデルが実際に価値を生み出す本番環境へと追随している。この単一のシフト――モデルの構築から大量実行への移行――が、静かにハードウェア市場を再編している。

理由は構造的であり、誇大宣伝ではない。推論モデルは一度答えるだけではない。思考の連鎖を通じて自己にプロンプトを繰り返し、クエリごとにはるかに多くの出力を生成する。エージェントシステムはこれをさらに推し進め、人間のプロンプトを待つのではなく目標に向かって24時間稼働する。結果として生まれる推論ワークロードは、固定された学習予算ではなく、利用量に応じてスケールする。これは、コンピューティングが一度だけ支払う資本的イベントだという古い考え方を打ち破る。推論は、導入が成功するたびに増大する営業費用である――AI製品の成功が大きければ大きいほど、請求額も大きくなる。

これが供給側が奇妙な提携へと分裂している理由だ。学習はハイエンドGPUの密集クラスタを好んだ。推論はよりメモリバウンドでレイテンシに敏感であり、これが専用シリコンへの扉を開く。Amazonが推論ジョブを独自のTrainiumとCerebrasのウェハスケール部品に分散し、Nvidiaが報道された200億ドルの取引でGroqの人材とIPを吸収していることは、どちらも同じことを示している。単一のチップが推論で完全に勝利することはない。勝利するアーキテクチャは、生の学習スループットではなくトークンあたりのコストに調整された組み合わせだ。AIインフラを調達する誰にとっても、これはベンダーの候補リストが長くなり、評価基準が完全に異なることを意味する。

日本にとって、影響は経済と電力に最も強く及ぶ。日本企業とSIerは2年間概念実証を実施してきた。現在本番環境に移行している企業は、真のコストはパイロットではなく、数千人の従業員や顧客が日々システムにアクセスするようになってからの経常的な推論支出であることを発見している。LLMプロジェクトを固定統合作業として価格設定したSIerは、トークンコストが支配的な変数になるにつれマージン圧力に直面するだろう――賢明な企業は、推論最適化を後付けではなく課金可能なサービスとして、使用量ベースの価格設定を中心に契約を再構築するだろう。

国内インフラの観点もある。推論はレイテンシとデータ所在地に敏感であり、これはすべてを海外のハイパースケーラーにルーティングするのではなく、国内GPUキャパシティを支持する論拠を強化する――日本の主権コンピューティングの野心と少数の国内GPUクラウド事業者への追い風だ。しかし、これは厳しい制約と衝突する。電力だ。ギガワット級のAI施設がアジア全域で発表されているが、日本の電力網と土地の経済性はその構築を真に困難にしている。ここでは生のデータセンター規模よりも、推論効率――より小さな蒸留モデル、適正サイズのシリコン、ワークロード配置――が重要になると予想される。特にRPAと自動化ベンダーにとって、エージェント推論は脅威であり同時にアップグレードパスでもある。常時稼働する自律エージェントは、24時間365日の推論コストを現実のものにするワークロードそのものであり、スクリプト化されたボット向けに構築された価格モデルはそれとの接触に耐えられないだろう。