SenseTimeはSenseNova-Loop-9Bの最終版チェックポイントを公開し、Cambriconは公開初日からのMLU対応を発表した。世界市場での商機は、企業向けAIに利用できるモデルとアクセラレーターの組み合わせが広がることにある。ただし、足並みをそろえたリリースが商業的な意味を持つのは、購入企業が過大な統合コストを負担することなく、対応済みの構成から保守可能なサービスへと移行できる場合に限られる。
したがって、メモリーとベンチマークに関する注意点は、調達における付随的な事項ではなく、判断の核心となる。購入企業は、コンテキスト長と同時リクエスト数に応じて必要なメモリー量がどう変わるのか、選択したランタイムとワークロードでもベンチマーク結果が再現されるのかを確認する必要がある。最終版チェックポイントも公開初日からの対応も、それだけでこうした比較を成立させるものではない。重要な指標は、ベンチマークのスコア単体ではなく、技術者の作業工数や遊休リソースも含め、業務上のタスクを確実に完了するためにかかるコストだ。
アクセラレーター供給企業にとって、モデルへの早期対応は、顧客が評価を先送りする理由を一つ取り除くことにつながる。より難しいのは、モデルやランタイム、企業の要件が変化するなかで互換性を維持することだ。対応が限られた構成にとどまれば、ハードウェアの選択肢が広がったように見えても、ある依存関係を別の依存関係に置き換えるだけになりかねない。調達担当者は、性能劣化への対応、ソフトウェアの更新、導入に失敗した場合の復旧について、誰が責任を負うのかを確認すべきだ。
日本企業とSIerにとって、有益な次の一手は、ハードウェアの置き換え計画ではなく、範囲を限定した試験導入だ。評価では、日本語文書、検索精度、データの取り扱い要件、既存のRPAワークフローとの連携を対象に含めるべきだ。これらは受け入れ基準であり、公開初日からの対応によって実証される能力ではない。現地のチームは、ライセンス条件、サポートの提供状況、自社環境で結果を再現するために必要な工数も確認する必要がある。
SIerの商機は、単なる導入作業ではなく、検証結果と運用責任の提供で対価を得ることにある。受け入れテストでは、業務上の正確性、応答時間、メモリー使用量、復旧時の挙動を、顧客が予算に組み込める価格と結び付ける必要がある。筆者は、モデルとチップの足並みをそろえたリリースが増えることで、インフラ調達が実質的に簡素化されるより先に、こうした検証作業への需要が高まるとみている。日本の購入企業にとって、移植性はリリース発表から推測するものではなく、サービスのライフサイクル全体を通じて実証されなければならない。