インドがMetaに対しInstagramから児童性的虐待素材の削除を正式に強制する措置は、単発のコンテンツ紛争というより、世界最大のインターネット市場がプラットフォームをどう統治するつもりかを示す指標である。8億人以上のユーザーを抱え、Meta社が米国外で最も急峻なユーザー成長曲線を描くインドは、ブリュッセルやワシントンにない構造的なレバレッジを有している。規制圧力と市場アクセス制限という暗黙の脅威を組み合わせることができるのだ。
戦略的背景は重要である。インドのIT規則は既に、Section 230という米国のセーフハーバーよりはるかに厳格なトレーサビリティ、苦情処理担当者、削除義務を課している。この措置は、ニューデリーがTwitter/Xとの以前の対立に続き、外国プラットフォームに対してこれらを積極的に執行する意思を示すものだ。Metaにとって、このタイミングは既に過密なリスク台帳をさらに複雑化させる。EUデジタルサービス法の調査、米国州レベルの児童安全訴訟、オーストラリアの16歳未満ソーシャルメディア禁止——これらすべてが同じテーマに収束している。従来のコンテンツモデレーション体制は、世界的に児童安全テストに不合格なのだ。
運用上の課題は技術的である。Instagramのレコメンデーションエンジンと暗号化メッセージング機能の拡大(Metaのより広範なエンドツーエンド暗号化推進による)は、積極的なCSAM検出との間に真の緊張関係を生み出している。規制当局は、暗号化がスキャン義務を排除するという主張をますます拒否している——これは今後10年間のプラットフォーム責任を定義する戦いとなる。MetaのハッシュマッチングとAI分類器(PhotoDNA由来システム)は既知の素材には効果的だが、新規およびAI生成コンテンツ——急増中のカテゴリー——には苦戦している。
グローバル経営幹部にとって、3つの示唆が際立つ。第一に、児童安全コンプライアンスは、単一のグローバルポリシーではなく、地域ごとの執行チームを必要とする、管轄区域別に分断されたコストセンターになりつつある。第二に、保険会社と取締役会は、罰金の増加と評判への波及効果を考慮し、CSAM曝露を重大なガバナンスリスクとして扱うべきだ。第三に、ベンダー機会は現実である。プラットフォームが検出をアウトソースする中、信頼・安全ツール企業(Thorn、Hive、ActiveFence)は需要拡大の好位置にいる。
推奨措置:インドで事業を展開するプラットフォームは、訴訟を起こすのではなく、地域特化型のモデレーション能力と透明性のある削除SLAに先手を打って投資すべきである。競争優位性は今や、安全インフラを後付けではなく市場参入の前提条件として扱う企業に属している。
