Metaは自社プラットフォーム全体でAI生成の児童性的虐待コンテンツを含む広告を掲載し、研究者らは自社ポリシーに違反する50件以上を指摘した。WiredとEngadgetは核心的事実では一致しているが、強調点が異なり、Wiredはコンテンツの深刻さを前面に出し、Engadgetはポリシー違反の規模を定量化している。経営幹部にとってより重大な問題は構造的なものだ。これは不正ユーザーの問題ではなく、数十億の広告インプレッションを審査システムが検証できる速度を超えて収益化する自動化パイプラインの失敗である。

戦略的シグナルは、生成AIがコンテンツモデレーションの経済性を破壊したということだ。検出ツールは既知の違法コンテンツをハッシュデータベースと照合するように構築されており、合成画像には事前の指紋がないため、プラットフォームがコンプライアンス証拠として引用する正確な管理機能を回避する。プログラマティック広告、マーケットプレイスリスト、またはユーザー生成メディアを運営する企業は、現在この露出を抱えている。Metaは単にそれが可視化された最大の表面に過ぎない。

規制リスクは即座かつ非対称的である。EU Digital Services Actの下では、超大規模プラットフォームの体系的な失敗は世界売上高の最大6パーセントの罰金を伴い、英国Online Safety Actおよび米国で審議中の児童安全法案は重複する責任を生み出している。Metaにとって、評判コストは同社の広告事業がコストのかかるAI構築に資金を提供している時期に到来し、ライバルや議員に対して、安全投資が生成への野心に遅れをとっているという明確な物語を与えている。

機会は防御的AI層にある。合成メディアの来歴(C2PA採用)、生成コンテンツで訓練された分類器モデル、および公開前広告スクリーニングを構築するベンダーは、あれば良いものから調達優先事項へと移行する。長らくコストセンターとして扱われてきた信頼・安全支出は、取締役会レベルの項目となる。

推奨アクション:広告とコンテンツパイプラインをポリシー文書ではなく敵対的システムとして扱うこと、事後の削除ではなく取り込み時に来歴チェックを展開すること、そして投資家にとっては、プログラマティック収益化を持つあらゆるプラットフォームに規制テールリスクを織り込むこと。AI原産の悪用に対応したモデレーションを今実装する企業は、次の研究報告書で名前が挙がることを避けられるだろう。