San Francisco市の市検事は、実在の人物の露骨な画像を捏造するAI「nudify」アプリをAppleとGoogleに削除するよう指示し、これらのツールの開発者に対する既存の法的キャンペーンを、それらを扱うストアフロントにまで拡大した。
ここでの戦略的シフトは微妙だが重大である。規制当局は、多くの場合オフショアで匿名であり、判決執行が不可能な悪質なAIツールの開発者を追いかけることにもはや満足していない。彼らは実際にリーチを制御する2つのチョークポイント、すなわちアプリストアをターゲットにしている。これにより、プラットフォームの説明責任は、事後対応的なコンテンツモデレーション問題から配信責任問題へと再構成される。これは、AppleとGoogleがユーザー生成コンテンツを保護するSection 230の保護よりもはるかに少ない法的保護しか持たないカテゴリーである。有料アプリカタログのキュレーションは、中立的なホスティングというよりも編集上の管理に近い。
これは急速に広がることが予想される。EUのAI ActとDigital Services Act、英国のOnline Safety Act、そして拡大しつつある米国州レベルのディープフェイク法規は、すべて同じ方向を向いている。単一の市検事の管轄は限定的だが、コンプライアンス対応はグローバルである。都市ごとにアプリカタログを維持することは運用上不可能であるため、最も厳格な執行が事実上世界的なベースラインを設定する。これは、ブリュッセル効果が地方自治体の裏口から到来しているのである。
プラットフォーム・デュオポリーにとって、短期的な行動は明快だがコストがかかる。メタデータだけでなく、アプリ機能の事前分類ベーススクリーニング、より明確な開発者の証明、より迅速な削除SLAである。より困難な問題は、生成能力がスペクトラムであることだ。写真エディタ、アバタージェネレーター、正当なクリエイティブツールは、悪用アプリと同じ基礎モデルを共有しているため、大雑把な禁止は、準拠している開発者やデバイス上ツールを構築しているサードパーティAIスタートアップへの巻き添え被害のリスクがある。
投資家は2つの二次的影響に注目すべきである。第一に、消費者向け生成AIスタートアップは現在、プラットフォームリスクが高まっている。リスト削除は存続に関わる可能性があり、これによりバイラルな消費者向けアプリよりもB2Bおよびインフラストラクチャー関連への プレミアムが上昇する。第二に、これはコンプライアンスインフラストラクチャとしてのAI来歴とコンテンツ認証ベンダー(C2PA準拠のウォーターマーキング、検出API)への需要を加速させる。生成メディアをめぐる規制の境界線は引き締まっており、配信ゲートキーパーは現在その内側にいる。
