OpenAIとBroadcomは、大規模言語モデルの推論に特化したカスタムチップを発表した。見出しはパートナーシップだが、真の物語はそれが最先端AI運用の経済性について明らかにしていることだ。

推論こそが、コスト危機が存在する場所である。モデルの訓練は一度限りの資本支出イベントだが、数億人のユーザーにサービスを提供することは、クエリごとに複利的に増加する継続的な運営費用である。ChatGPTクラスの利用が拡大するにつれ、Nvidiaの粗利益率(70%以上)がOpenAIの売上原価となる。既知のワークロードに最適化されたカスタムASICは、柔軟性を効率性と引き換えにする。OpenAIの規模では、ドルあたりパフォーマンスが30~40%向上するだけで、ビジネス全体の単位経済性が再構築される。これは、GoogleをTensor Processing Unitへ、AmazonをTrainiumとInferentiaへと向かわせたのと同じ論理である。

Broadcomは、ここでの静かな勝者である。Nvidiaとは異なり、自社顧客と競合する形で完成チップを販売することはなく、設計IP、ネットワーキング、パッケージング専門知識をライセンス供与する一方、顧客がシリコンを所有する。このモデルは、Nvidiaプレミアムの支払いに疲れたすべてのハイパースケーラーを惹きつけている。すでに数十億ドル規模のBroadcomのAI収益軌道は、汎用GPUからカスタムアクセラレーターへの価値の構造的再配分を裏付けている。MarvellとTSMCの先端パッケージング能力が、他の受益者となることが予想される。

OpenAIにとってのリスクは、実行とタイミングである。カスタムシリコンは、テープアウトから展開まで数年を要し、18ヶ月ごとに自己革新する分野において、アーキテクチャを今日のモデル前提に固定してしまう。NvidiaのCUDAソフトウェアの堀と迅速なロードマップ更新は依然として強力である。OpenAIは今後数年間、ハイブリッドフリートを運用することになるだろう。訓練と実験にはNvidia、定常状態の推論にはカスタムチップを使用する形だ。

経営者と投資家にとって、これはAIコンピュートが二極化しているシグナルである。汎用GPU市場は柔軟性とR&Dにおいて支配的であり続けるが、最も大量で最も予測可能なワークロードは、垂直統合されたシリコンへ移行しつつある。カスタムチップ戦略を持たないハイパースケーラーと大規模AIラボは、恒久的なコスト不利を抱えることになる。メモリ価格にも注目を。MicronとSK Hynixの急上昇する予測は、HBMがロジックではなく、全員の野心を制約する要因である可能性を確認している。