スパースコンピューティング推論チップの設計を手がける深センのMoffett AIは、11月3日にシリーズC+ラウンドで約10億人民元を調達した。同規模の資金調達としては約5カ月ぶり2度目となる。見出しの金額以上に、この連続調達のペースが重要だ。

このシグナルは最前線で起きていることと一致している。同じ週に、推論プロバイダーのFalはBessemerが主導する13億ドルの資金調達を実施し、評価額を160億ドルへと倍増させた。資本はモデル学習からモデルサービングへとシフトしている。なぜなら今やユニットエコノミクスが生き残りを決めるからだ。デプロイされたモデルが回答するすべてのクエリは経常コストであり、特殊なシリコンやスパース実行によってトークンあたりのコストを下げる者が持続的な利益を獲得する。学習は一度限りの資本支出だが、推論は使用量に応じて積み上がる運営費用であり、これこそ投資家が大規模に引き受ける種類のキャッシュフローだ。

Moffettのスパース性への賭けは興味深い技術的勝負だ。密なGPU推論はゼロに近い重みに計算リソースを浪費する。スパース性を活用すれば、ワットあたりのスループット向上が見込め、これがデータセンター構築を実際に制約する指標となる。中国にとって、この調達ラウンドは輸出規制下での輸入代替としても読める。国内推論アクセラレーターは、最先端の欧米製部品への確実なアクセスなしに大規模モデルサービングを継続する手段だ。リスクは分断化だ。CUDAレベルの成熟度に到達しないソフトウェアスタックは、エコシステム外でサポートする者がほとんどいないツール上に開発者を取り残してしまう。

日本にとって、教訓はチップそのものよりもAIブームのコスト面にある。日本企業がパイロットを本番環境に移行させるにつれ、学習支出ではなく経常的な推論コストが予算を支配するようになり、これこそSIerが今日提案書でモデル化すべき数字だ。NTTデータ、NRI、富士通などの企業がAI業務を統合プロジェクトとして価格設定し続けるなら、顧客が引き継ぐ運用コストを過小評価するリスクがある。主権の観点もある。Rapidusが国内先端製造を推進する中、日本のギャップは製造の野心よりも、国産推論アクセラレーターとそれを取り巻くサービング層ソフトウェアにある。RPAベンダーは同じ圧力のより鋭い形に直面している。エージェント型自動化がコスト基盤をライセンスシート課金からアクションごとのモデル呼び出しへとシフトさせるためだ。国内開発チームは、推論効率、量子化、キャッシング、ルーティング、ハードウェア選択を、後回しの最適化ではなく第一級のアーキテクチャ決定として扱うべきだ。