QualcommはApplied MaterialsのEPIC Centerの開設を利用して、明確な主張を展開した。エッジAIの上限は知能ではなく、エネルギーであると。スマートフォン、自動車、センサーはデータセンターが享受する電力と冷却の余裕を一切持たず、同社はメモリをロジックに直接積層することを消費電力削減の手段と見なしている。

ここでの戦略的シグナルは、オンデバイスAIの競争の戦場が、モデル層から材料とパッケージング層へと静かに移行していることだ。10年間、モバイルシリコンの進歩はノード縮小に乗っかってきた。その道は減速し、破滅的に高価になりつつあるため、次なる進歩はトランジスタがどれだけ小さいかではなく、チップがどのように三次元的に組み立てられるかから生まれる。QualcommがApplied Materialsとステージを共にするとき、それはプロセスエンジニアリング、相互接続、熱材料が今や信頼できるエッジAIを出荷するための重要経路上にあると市場に告げているのだ。ボンディング技術、高帯域幅メモリ統合、放熱を制御する者がロードマップを制御する。

これは経済性を再定義する。ローカルで推論を実行することは、クラウドへの往復よりも安価でプライベートだが、それはデバイスがスロットリングなしに数ワット以内で実行できる場合に限られる。ジュール・パー・トークンの問題を解決する企業が、業界の他社がライセンスする参照設計を設定することになる。パッケージングと装置サプライヤーが、モデルベンダーが自分たちのものだと想定している価値のうち、増大するシェアを獲得することが予想される。

日本にとって、これは構造的に有利な稀な状況だ。同国の強みは派手なチップブランドにあったことは一度もなく、先進的なパッケージングが依存する川上の材料、基板、ボンディングフィルム、精密装置にある。エッジAIのボトルネックが熱と材料工学であるなら、日本のサプライヤーは何年かぶりにチョークポイントの近くに位置している。車内およびADAS推論を追求する国内自動車メーカーは、TOPS値ではなく電力予算を真に重要なスペックとして扱うべきだ。

日本のSIerと企業開発チームにとって、教訓はクラウド推論をデフォルトと想定するのをやめることだ。有能なエッジシリコンが登場するにつれ、機密データをデバイス上に保持するアーキテクチャが、製造、物流、規制対象セクターで実現可能になる。精度だけでなく、電力とレイテンシの制約に対してモデルをプロファイリングすることを学ぶチームが、クライアントが大規模に展開できるハードウェア上で実際に動作するシステムを設計することになる。