AppleとGoogleにAI「ヌード化」アプリの削除を迫るサンフランシスコの執行要求は地域的な動きに見えるが、構造的な転換点を示している。下流で生じる被害の責任を問われるのは開発者だけでなく、ストア運営者という位置づけだ。
10年間、プラットフォームの防衛論理は配信者の中立性と規模に依存してきた。数百万件のリスト、自動審査、セーフハーバー理論である。しかし生成AIがこの姿勢を崩壊させる。アプリの中核機能が非合意の露骨な画像の捏造である場合、「我々はホスティングするだけで、作成はしない」という主張は法的にも広報上も破綻する。この枠組みは急速に広がると予想される。Digital Services Act下のEU当局、Online Safety Act下の英国Ofcom、そして複数の米国州司法長官は既に、市からの書簡を協調行動に転換するテンプレートを持っている。先例としての価値は、即座の対象アプリ数を遥かに上回る。
戦略的リスクは非対称的だ。AppleとGoogleはストアから15~30%の手数料で収益化しているため、キュレーションコストや責任を引き上げる執行体制は、事業で最も収益性の高い層の経済性を侵食する。より重大なのは、リストに対する編集権限を持つゲートキーパーが同時に受動的導管としての保護を主張できないという論拠を招く点だ。これは独占禁止当局が喜んで再利用する楔となる。
運営者への行動指針:カテゴリーラベルではなく、機能をモデレーションの単位として扱うこと。静的なキーワードやカテゴリーフィルターでは、ブランド変更したり悪用機能を無害な説明の背後に隠したりするアプリを見逃す。プラットフォームは機能レベルの検出を導入し、画像生成アプリに出所と同意の証明を義務付け、規制当局が外部から定義する前に監査可能な削除SLAを構築すべきだ。モデレーションツール(Hive、Thorn、ActiveFence)の企業購入者は、拡大する需要の追い風の中にいる。
投資家にとっての示唆は、コンテンツ責任リスクがインフラと配信へとスタックの上層に移行しつつあるということだ。決済やソーシャルメディアを再形成したのと同じ軌道である。コンプライアンス実現企業として位置づけられる企業は恩恵を受ける。安全ガバナンスが脆弱な純粋消費者向けAIアプリは、一夜にして配信を蒸発させかねない削除リスクに直面する。持続的な勝者は、信頼と安全をコストセンターではなく製品機能として扱う企業となるだろう。
