ある技術愛好家がAMD Radeon RX 7900 XTをM.2スロット経由でLenovo Yogaに接続し、ローカルチャットボットを動かす試み――一見すると単なる珍しい事例に見える。しかしこれは、中国の研究機関がGLM-5.3-FlashとQwen3.8-Flash-Nextという新たなオープンウェイトモデルを公開したのと同じ週に起きた出来事であり、このタイミングこそが本質だ。このハードウェア改造は需要曲線の症状である。人々は従量課金のAPIや外部へのデータ流出を避け、すでに所有する機器で有能なモデルを動かしたいのだ。

グローバルな意味では、推論処理がどこで行われるかの緩やかな再調整が進んでいる。この2年間、最先端の性能はハイパースケーラーのデータセンターに存在し、トークン単位で借りるものという前提があった。単一のコンシューマーGPUで十分動作するオープンモデルは、その前提を周縁から侵食する。勝者となるのは、実用的なローカル推論スタックを持つチップメーカー、エッジAIミドルウェアベンダー、そして雑然としたローカル環境を製品のように動作させる接続組織を販売する企業だ。リスクにさらされるのは純粋なAPIマージンモデルで、スイッチングコストが低く、十分な性能のオープンウェイトがハードウェア購入後は無料で動作する。この改造自体のボトルネック――遅いノートPCのDRAMが高速GPUにデータを供給して推論が絞られる――も教訓となる。メモリ帯域幅こそが、ローカルAIが玩具か実用ツールかを決める制約なのだ。

日本企業にとって、これは既存の本能と明確に重なる。データレジデンシーへの慎重さ、規制対象や機密情報を海外のクラウドAPIに送ることへの抵抗感、オンプレミス管理を好む文化的傾向が、従来からパブリッククラウドAIの導入を遅らせてきた。有能なオープンモデルはこの計算を変える。製造業、病院グループ、金融機関のバックオフィスは今や、機密データを外国のエンドポイントに送る代わりに、汎用ハードウェア上で国内の閉鎖環境アシスタントを試験運用できる。注意点は、中国発のウェイトが大手日本企業では調達およびセキュリティ審査を引き起こすことで、需要は生のモデルと、それを検証・強化する信頼できる統合レイヤーに分かれると予想される。

これはSIerや国内開発チームにとって具体的な好機である。価値はもはやGPU容量の再販やAPIの再販にはなく、オンプレミス推論のリファレンスアーキテクチャ、メモリ帯域幅を考慮したハードウェアサイジング、モデル評価とガバナンス、そしてローカル展開を信頼性高く準拠させる地味な作業にある。RPAベンダーも同じシグナルを読むべきだ――ローカル言語モデルは、脆弱なルールベースのフローを、顧客の自社環境内で動作する堅牢な文書およびワークフロー自動化に変える。オープンウェイト・ローカルファーストAIを愛好家の遊びではなくサービス機会として扱うチームが、データが決して社外に出ない場合に日本の購買者がより喜んで支出する予算を獲得するだろう。