Metaは、Muse Image機能をローンチから数日で撤回した。ユーザーが、この機能によって誰でも公開Instagramアカウントを@メンションするだけで、許可なくAI画像を生成できることに気づいた後のことだ。TechCrunch、The Verge、Engadgetは中核的事実と撤回の速さでは一致しているが、各メディアは主にフレーミングで異なる。The VergeとEngadgetは出力をディープフェイクと明示的にラベル付けした一方、Meta自身の声明は「クリエイティブツール」が「的を外した」というより柔らかい言葉に寄りかかった。この語彙の差こそが物語だ。

グローバルプラットフォーム運営者への戦略的シグナルは、同意がもはや生成AI製品設計における脚注ではなく、ローンチの門となっているということだ。Metaは、同意していない第三者に触れる機能にオプトアウト機構を搭載して出荷し、公開性と肖像を合成する許可は同じものではないことを発見した。Snap、Pinterest、ByteDance、Xまで、ソーシャルグラフに画像または動画生成を組み込む企業は、これを、特定可能な人物に対するデフォルトはオプトアウトではなくオプトインでなければならないという警告として読むべきだ。

規制の背景はリスクを鮮明にする。欧州委員会はすでにDigital Services Act下でのエンゲージメント駆動型デザインについてMetaを調査しており、非同意的な肖像生成を産業化するツールは、DSA、AI Actの透明性規則、米国各州で台頭するディープフェイク法の下で、規制当局に簡単な訴訟理由を与える。法的リスクは仮説的ではない。操作された画像の被害者は、今や名指しの被告と、プラットフォームがローンチ時に悪用ベクトルを知っていたという明確な前例を持っている。

経営幹部にとって、三つの行動が導かれる。第一に、肖像生成機能をローンチ前に同意と来歴のレビューに通し、C2PAスタイルのウォーターマークを組み込むこと。第二に、「公開コンテンツ」をデータ権の問題として扱い、発見可能性の問題として扱わないこと。特定可能なユーザーに対するスクレイピング隣接のトレーニングと推論は訴訟を招く。第三に、数日間の撤回の評判コストをシミュレートすること。これは規制当局と広告主の両方に対して、弱い内部ガバナンスを示すシグナルとなる。

より広いトレンド：AI機能競争が同意カウンタームーブメントと衝突しており、出荷スピードはその優位性を失いつつある。勝者は、来歴と許可をコンプライアンス税ではなく製品機能とするプラットフォームとなるだろう。