自動ナンバープレート認識カメラが無実の運転手を警察の職務質問対象として誤認識した米国の監視ベンダーが、誤検知をめぐり世論の厳しい目にさらされており、同社CEOはこれが最初のエラーではないと認めた。
ここでの戦略的な論点は、一件の不当な職務質問ではない。自動識別システムが、それを取り巻く説明責任インフラが成熟するよりも速いペースで、重大な影響を及ぼす公共安全業務に導入されているという事実だ。Flock Safetyは米国の数千の自治体にナンバープレート読取装置を配備しており、同様のネットワークが英国、湾岸諸国、ラテンアメリカでも拡大している。繰り返される失敗パターンはどこでも同じだ。確率的な一致を、人間のオペレーターが決定的な事実として扱ってしまうのだ。そのオペレーターが銃器を携帯している場合、誤検知のコストは返金では済まない。不当な拘束、訴訟、そして見出しとなるのだ。
この種のテクノロジーを構築または購入する経営者にとって、リスクの性質は評判上のものから財務・法務上のものへと変化している。3つの方向性が予想される。ベンダーを警察当局と並んで被告とする公民権訴訟、監査済みエラー率と人間による検証プロトコルを義務付ける調達規則、そしてアルゴリズム起因の損害リスクを補償内容に織り込む保険会社の動きだ。Clearview AIが欧州で受けた規制当局の制裁や、米国における顔認識技術禁止の波がその雛形となる。Flock、Motorola Solutions、Genetec、Axonは、裁判所が判断を下す段階になれば「顧客が設定した」という弁明は責任の盾にならないと想定すべきだ。
機会は、ガバナンスをコンプライアンス上の負担ではなく機能として扱うベンダーに存在する。信頼度スコアを表示し、人間によるすべての上書きを記録し、照合確認ステップを強制し、独立監査データを公開するシステムが、リスク回避志向の公共調達者を獲得するだろう。これは、説明可能性がエンタープライズAIにおける購買基準となった経緯と重なる。もはや検知精度だけが競争上の堀ではない。法的証拠開示手続きにおける防御可能性こそが堀なのだ。
推奨アクション:購買者は契約更新前にエラー率の開示と補償条項を要求すべきだ。ベンダーは規制に先んじて、今すぐ監査証跡と義務的な人間検証ゲートを実装すべきだ。投資家は摩擦のない拡大を前提とする監視技術の評価倍率を割り引くべきだ。顔認識技術を襲った規制上の清算が、自動ナンバープレートおよび物体認識にも到来しつつあり、これを早期に織り込む企業は、他社が耐えられない衝撃を吸収できるだろう。
