170社の企業を対象とした調査によると、3分の2が現在本番環境でAIを稼働させているにもかかわらず、そのコンピューティングコストを厳密に追跡できるのは半数未満である。パフォーマンスとGPUの可用性が、購買決定において総所有コストを静かに上回るようになっている。

より興味深いのは、この優先順位の低下そのものではなく、なぜそれが安全だと感じられるかである。本番環境のプレッシャーにさらされたチームは、コストをワークロードが出荷された後に解決すべき問題として扱う。問題は、AIインフラストラクチャが従来のクラウドのように振る舞わないことだ。遊休GPU容量は継続的に資金を消費し、調査で明らかになった自社運用GPUのほとんどが半分以下の稼働率で動作しているという事実は、企業のAI支出の大部分が何も生み出していないことを意味する。ユニットエコノミクスが見えなければ、再交渉も適正規模化もワークロードの賢明なルーティングもできない。現在ほとんど誰も使用していないにもかかわらず、AI特化型クラウドを次の投資対象とする意欲は、調達が測定されたリターンではなく物語と同調圧力によって推進されていることを示唆している。これは、能力ブームが2つの予算サイクル後にマージン問題に変わる典型的なパターンである。

グローバルに見れば、勝者となるのは推論の経済性を明瞭にするプラットフォームとツールだろう。AI FinOps、GPUスケジューリング、コスト帰属ツールの市場は急速に成熟し、まずスケールして計測は一度もしなかった企業には厳しい精算が待っている。成功指標としての信頼性のトップは妥当だが、コストの可視性なき信頼性は単に高価な稼働時間に過ぎない。

日本にとって、これは警告であると同時に好機でもある。日本企業は伝統的に設備投資に規律があるが、AI導入への不安がその本能を覆す可能性があり、多くは自社でトークンレベルやGPUレベルのコストを測定するMLOps深度を欠いている。そのギャップこそ、SIerが動くべき場所である。GPU容量やモデルアクセスを単なるパススルーとして再販するのではなく、持続可能なマージンはアカウンタビリティレイヤーになることにある。ワークロード配置、稼働率最適化、そして透明なコストガバナンスをマネージドAIサービスに組み込むのだ。クライアントの推論単価を証明し、遊休容量を削減できるSIerは、ハイパースケーラーがきちんとパッケージ化していない何かを提供する。

RPAと自動化ベンダーも同様の転換に直面している。日本企業が既存のRPA資産に生成AIを組み込むにつれ、LLMを使用したタスクの実行単価は決定論的ボットよりもはるかに予測しにくく、財務チームは現在持っていない可視性を要求するだろう。国内開発チームは、コスト計測を今すぐ第一級の要件として扱うべきであり、クリーンアップタスクとしてではない。なぜなら、本番環境のプレッシャー下で稼働中のAIスタックに観測可能性を後付けすることは、まさにこのデータが描く罠そのものだからだ。