Newegg'が提示したMSI GeForce RTX 5070 Ventus 2X OC 12 GBの839.99ドルという販売価格は、購入の選択肢を提供するものであり、世界的にAIの計算コストが低下している証拠ではない。企業が購入を検討する際は、ハードウェアの小売価格と、実際に利用できるサービスとしての経済性を区別する必要がある。カードを運用するには、ホストシステム、電力、ソフトウェアの保守、運用支援も必要になる。比較可能な価格やワークロードのベンチマークがなければ、この販売情報だけでは費用対効果を判断できない。
戦略的な可能性は、適性があり継続的に稼働する推論ワークロードを自社保有の機器へ移しつつ、大規模な処理や断続的な処理のためにクラウドの処理能力を確保しておくことにある。メモリー容量が12 GBであるため、ワークロードへの適合性が導入の可否を左右する。モデルの重み、実行時のオーバーヘッド、処理中のコンテキストがメモリー容量を取り合うためだ。購入を検討する企業は、実際に使用するソフトウェア構成でレイテンシー、出力品質、稼働率を測定すべきだ。大規模なメモリーオフロードを要したり、稼働の維持に従業員の時間が取られたりするワークロードでは、取得価格の安さだけでその不利を補うことはできない。
日本企業にとって、ドル建ての表示価格は納入時の総費用ではない。為替レート、税金、送料、保証範囲、交換対応を考慮し、国内で供給されるシステムと比較する必要がある。ローカルでの推論は、機密文書を外部サービスに送る必要性を減らせる可能性がある。ただし、それにはアプリケーション側でもテレメトリー、ログ、ネットワークアクセスを制御していることが条件となる。したがって調達に際しては、GPUだけの予算ではなく、導入・運用全体を通した評価が必要だ。
日本のSIerは、その評価をサービスとして提供できる。サポート対象となるハードウェアとモデルの構成を検証し、既存システムと連携させ、処理能力を超えた場合の代替手段を定めることだ。RPAでは、文書からの情報抽出や分類が実証実験の対象として有力だ。ただし、精度と例外処理を既存の業務プロセスに照らして検証することが前提となる。商機は、値引きされたボードの転売益ではなく、ワークフローの信頼性を継続的に確保することにある。導入は、持続的な需要があり、データの取り扱い要件が明確な案件で進むとみられる。利用頻度の低い実証実験は、クラウドの方が安く済む可能性がある。