Basetenが前回のメガ調達からわずか数カ月後に130億ドルの評価額で15億ドルを調達したと報じられたことは、単独の資金調達イベントというよりも、AI資本がどこへ移行しているかを示すシグナルだ。つまり、コストのかかるモデル訓練ビジネスから、継続的でマージンの高い推論サービスビジネスへの移行である。

戦略的論理は明快だ。訓練は、資金力のある少数の研究所が支配する資本の吸収先である。一方、推論は利用が複利的に増加する領域だ。チャットボットの応答、コード補完、エージェント型ワークフローのすべてが推論呼び出しであり、これらの呼び出しは研究予算ではなく採用規模に応じてスケールする。企業がパイロットから本番環境へと移行するにつれ、ボトルネックはレイテンシ、トークン単価、信頼性へとシフトする。まさにBaseten、Together AI、Fireworks、Modalが獲得競争を繰り広げている層だ。生のGPUと使用可能なAPIの間のギャップを最適化する者が、AI経済全体に対する通行料を獲得する。

リスクは、この層が構造的に争奪戦の対象であることだ。ハイパースケーラーは攻撃的な既存プレーヤーである。AWS Bedrock、Azure AI、Google Vertexは推論を既存のクラウド契約にバンドルしており、AWSが自社のTrainiumおよびInferentiaチップを外部販売する動きは、独立系企業が依存するマージンを圧縮する恐れがある。一方、NVIDIAは独自の推論マイクロサービスでスタックの上位へと進出している。130億ドルの評価額を持つ推論スタートアップは、下層のチップメーカーと上層のクラウドに挟まれたポジションを守らなければならない。

投資家にとって、この評価額は単なる収益成長ではなく、ユニットエコノミクスの精査を要求する。推論マージンは、GPU利用率、モデルルーティング効率、そしてシリコン全体を抽象化する能力に依存する。NVIDIA、AMD、カスタムASICを問わずだ。勝者は中立的でマルチクラウド、シリコン非依存となり、敗者はアクセラレーター価格が下落する中で単一のハードウェアに固定される。

グローバルなテクノロジーリーダーは、これを調達とアーキテクチャの警告として受け止めるべきだ。AI戦略を単一の推論プロバイダーまたは単一のチップファミリーに賭けることは、市場が分断化する中でロックインを招く。賢明な手段は、ポータビリティを考慮した設計、つまり価格性能比がシフトする際にワークロードを移行できる、コンテナ化されたモデルルーター駆動のスタックだ。推論ゴールドラッシュは少数の持続可能なプラットフォームを生み出すだろうが、今日のメガ調達の大半は、コンピュートが商品化されるにつれて訪れるマージン圧縮を生き残れない。