Intelは、データセンター向けディスクリートGPUであるCrescent Islandを、特定のボトルネックに焦点を当てて位置付けている。エージェント型AI推論は、行列演算だけでなく、長文コンテキストのキーバリューキャッシュと繰り返されるモデル呼び出しに必要なメモリ容量と帯域幅によって制約されるという点だ。
この戦略的な賭けは、一般的なNvidiaへの挑戦よりも鋭い。学習が見出しを飾るが、本番環境における経常的なコストセンターは推論であり、エージェント型ワークロードはそれをさらに悪化させる。ツール呼び出し、リトライ、長文コンテキストウィンドウのたびに、メモリフットプリントとレイテンシが膨張する。ピークFLOPSではなく、1ドルあたりの容量とスループットを最適化することで、Intelは、Nvidiaのプレミアムが最も正当化しにくく、購入者が日々マージンの痛みを感じる領域で競争しようとしている。経済性が成立すれば、興味深い結果は、Intelが学習分野でNvidiaを打ち負かすことではなく、コスト重視の推論フリートで防御可能な階層を切り開くことだ。これはまた、大規模にGPUを購入するために負債で資金調達されている現在のネオクラウドモデルに圧力をかけ、演算処理、メモリ、電力がAI構築における真の制約であるという広範な資本論を裏付けることにもなる。
リスクは実行とエコシステムにある。成熟したソフトウェアスタックのないハードウェアは、スペックにかかわらずCUDAに負ける。そしてIntelのデータセンターGPUの歴史は不均一だ。メモリ中心設計は供給面の疑問も提起する。HBMと先端パッケージングの生産能力はすでに逼迫しているからだ。
日本にとって、これは通常のチップ発表サイクル以上に重要だ。日本企業は外部クラウドへのデータ送信に慎重なままであり、オンプレミスおよびプライベート推論が、Crescent Islandがターゲットとするエージェント型ユースケースにとってまさに魅力的になる。Nvidiaに対する信頼性が高く、低コストで容量重視の代替手段は、最先端のモデル学習よりもガバナンスと予測可能なコストが重要な国内AI展開において、SIerにより強力なストーリーを提供する。
日本企業が追跡すべきサプライチェーンの側面もある。メモリ重視のアクセラレータはHBM、パッケージング、材料に依存しており、日本のサプライヤーが実質的な地位を占めている。そのため、容量優先設計へのシフトは、調達を複雑化させる一方で、国内部品基盤の一部に有利に働く可能性がある。SIerと社内開発チームにとって、実務的な教訓は、RPAがエージェント型自動化に進化しており、それらのエージェントを実行するコストは推論ハードウェアの選択にかかっているということだ。今からメモリとレイテンシを考慮して設計し、単一ベンダーにロックインするのではなくハードウェアの柔軟性を維持するチームは、モデルの精度だけを最適化するチームよりもAI運用コストをはるかに良く管理できるだろう。
