Anthropicが提案する枠組みでは、AIシステムが約50人の死亡または10億ドルの損害に関連した場合にのみ正式な介入が発動され、差し迫ったリスクの報告は72時間以内に商務省へ送られ、その後連邦判事が命令を検討する。この設計は示唆に富んでいる。執行を壊滅的で数値化可能な被害に結びつけることで、反応的な姿勢を明文化している。つまり規制当局は災害発生後に介入し、事前ではない。これは意図的な哲学的選択であり、立証責任を確率的リスクではなく実証された物理的または経済的損害に大きく傾けるものだ。

グローバルな影響としては、権限の静かな統合が進む。商務省を主要な門番として指名することは、安全、市民権、消費者保護に関して管轄権を主張する可能性のある諸機関のパッチワークを事実上脇に追いやる。最先端ラボが自らが評価される規則を提案することは、規制産業における馴染みのあるパターンであり、既存企業が堀を設計しているという明白な批判を招く。高い閾値は、コンプライアンスと法的手続きを吸収できる資本力のある企業に有利に働く一方、大惨事という発動条件はAIの拡散的で累積的な害、つまり差別、偽情報、労働の置き換えなどをほぼ手つかずのまま残す。投資家はこれを、ワシントンがEU型の事前分類方式ではなく、損害指標に基づく軽いタッチの監視を好むという賭けとして読むべきだ。

日本にとっては、法令そのものよりもシグナルが重要だ。東京のアプローチは、拘束力のある閾値ではなくソフトロー、経済産業省や内閣府のガイドラインに依存してきた。大惨事の発動を軸とする米国モデルは、日本の政策立案者に原則ベースの規制を維持する口実を与える。それは短期的には心地よいが、まさに日本企業がリスクにさらされている領域に空白を残す。

喫緊の問題はSIerと社内開発チームに降りかかる。日本のインテグレーターが基盤モデルを病院システム、工場ライン、金融バックオフィスに組み込む際、責任は50人の死亡という閾値を待たない。既存の製造物責任と契約規範の下で、SIerとその顧客は単一の故障による影響をすべて吸収する。大惨事規模でのみ関与するグローバルな体制は、実際に企業展開を悩ませる中規模の運用障害に対して何の保護も提供しない。したがって日本企業は、ベンダーの安全性主張を天井ではなく床として扱い、独自の評価、ログ記録、ロールバック管理を構築すべきだ。RPAや自動化企業がエージェント型ワークフローに移行する際、このギャップの最も鋭い形に直面する。規制当局が見出し級の被害に焦点を当てている間に、自律的意思決定リスクを引き継ぐことになるのだ。