San Franciscoの執行措置がAppleとGoogleにAI「裸化」アプリの削除と手数料の吐き出しを要求したことは、転換を示している。ゲートキーパー・プラットフォームは中立的な導管ではなく、有害ソフトウェアの商業的受益者として扱われるようになったのだ。

戦略的シグナルは一つの都市を超えて広がる。20年間、アプリストアはキュレーションされた市場で収益化しながら、開発者が構築するものからは距離を置くと主張してきた。その姿勢は今、主要機能が悪用である一連のツール群——非同意画像、ディープフェイク嫌がらせ、合成ID詐欺——と衝突している。規制当局が30%の手数料を指して危害からの利益と呼ぶとき、仲介者責任の抗弁は弱まる。州司法長官による模倣措置、Digital Services Actに基づくEU規制当局の圧力、Online Safety Actに基づく英国の執行が予想される。エクスポージャーは評判面と財務面の両方だ。手数料の吐き出し、差止命令、そして最終的には法定罰金である。

より深刻な問題は検出である。「裸化」アプリはストアのリストでその機能を宣伝することはほとんどない。機能はモデルとサーバー側推論の中に存在し、静的レビューには不可視である。AppleとGoogleは行動ベースと結果ベースの審査——ランタイム分析、開発者の証明、AI機能のレッドチーム——を必要とするだろうが、これはレビューコストを増やし、承認を遅らせる。これは小規模開発者に不利に働き、コンプライアンスのオーバーヘッドを吸収できる既存事業者に優位性をもたらす。

機会は信頼・安全インフラストラクチャーの周辺に集まる。Hive、Thorn、Clarify型のコンテンツ分類プロバイダー、さらに来歴標準(C2PA)などのベンダーが調達優先事項となる。投資家は、KYCがフィンテックにもたらしたようなコンプライアンス・ツーリングの波に注目すべきだ。

推奨アクション:プラットフォーム運営者は、規制に先んじて今すぐAI機能の開示を必須の開発者証明に移行し、公開後のモニタリングを構築すべきである。生成モデルを使用するアプリ開発者は、防御的に保護措置を文書化すべきである。サードパーティAI機能を組み込む企業は、下流の悪用責任を法務部門の事後対応ではなく取締役会レベルのリスクとして扱うべきだ。中立市場の時代は終わりつつある。キュレーションは規制される機能になりつつある。