Moonshot AIのKimi K3は生の計算力よりもメモリアーキテクチャに依拠しており、最先端性能がもはやGPU支出と直線的にスケールしないという懸念から半導体株が下落した。この反応は、DeepSeek R1後のNVIDIAの6000億ドルの時価総額消失を想起させるものであり、市場が2年間回避してきた問いをリハーサルしているのだ。
より深い示唆はアーキテクチャ的なものであり、地政学的なものではない。10年間、支配的な前提は能力がFLOPsに追従するというものであり、数千億ドルのデータセンター構築を正当化してきた。最先端レベルの品質に到達するメモリ最適化モデルは、ボトルネックを純粋なGPU密度ではなく、高帯域幅メモリ、インターコネクト、データ移動へと再定義する。これはSK Hynix、Samsung、Micronなどのメモリサプライヤーや、BroadcomやAstera Labsなどのネットワーキングプレーヤーにとって強気材料である一方、あらゆる追加アクセラレーターが自己販売するという物語に圧力をかけている。
経営幹部にとってタイミングが重要だ。投資家はすでにMicrosoft、Alphabet、Amazon、Metaに対し、利用状況の虚栄心指標ではなく測定可能な収益に対してAI設備投資を正当化するよう要求している。挑戦者ラボからの信頼できる効率化テーゼは、懐疑論者に武器を与える:より軽量なアーキテクチャがコストのほんの一部でギャップを埋めるなら、10万GPU規模のクラスターのROI計算は急速に厳しくなる。スケールこそが運命だというハイパースケーラーの防衛は、引き受けるのが困難になる。
戦略的には、勝者は計算力を複数の入力の一つとして扱う者となるだろう。企業は、複数年の推論契約を確定する前に、メモリ効率的なモデルを既存の最先端モデルとベンチマークし、トークンあたりのコスト低下を前提とした契約を交渉すべきだ。半導体投資家は、GPU数から、価格決定力が静かに移行しているメモリおよびインターコネクトスタック全体へと、メンタルモデルを転換すべきだ。
最先端ラボが2四半期以内にパラメータ数ではなくドルあたり効率の数値を公表し始めることを期待せよ。競争の枠組みは、最も多く支出できる者から最も少なく無駄にできる者へとシフトしており、資本市場はベンダーがそれを認める前にこの転換を織り込み始めている。