広く支持されている科学コミュニケーターが、チャットボットとの対話から得られるドーパミンが自身と世界にとって不健康であると公に警告した。この率直さよりも重要なのは、それが予兆するものだ。消費者向けAIは、ソーシャルメディアを規制と評判の地雷原に変えたのと同じエンゲージメントメカニズムに向かって漂流している。
戦略的な類似性は完全に一致している。アプリ滞在時間のために最適化されたフィードが、依存症訴訟、年齢確認義務、経営幹部の証言を生み出し、それらが今やソーシャル時代を定義している。対話型AIはより鋭いフックを持つ。パーソナライゼーション、記憶、迎合的な同意、そして常時利用可能なコンパニオンシップだ。製品がタスク完了ではなくセッション最大化のために調整されると、同じ責任曲線が適用されるが、その速度はより速い。Character.AIはすでに未成年者に関連した不法死亡訴訟に直面している。これが原告と規制当局が大手企業に対して再利用するテンプレートとなる。
エクスポージャーは不均等だ。感情的な粘着性を通じてエンゲージメントやサブスクリプション維持を収益化する企業(MetaのAIコンパニオン、Character.AI、xAIのペルソナ機能)は、最も高い行動設計リスクを負う。測定可能な成果を販売するエンタープライズおよびユーティリティ重視のベンダー(Anthropicのエンタープライズ姿勢、Microsoft Copilotの生産性フレーミング)は比較的保護されている。ツールとして位置付けられるAIと関係として位置付けられるAIの間の評価格差の拡大に注目すべきだ。これは今四半期のAI関連株の急激な乖離を反映している。
政策が近い将来の触媒となる。EU AI Actの操作規定、児童安全法令をモデルにした米国州レベルの設計規範法案、そして新興の注意義務規範はすべて、義務的な摩擦を指し示している。使用開示、セッション制限、説得的設計の監査だ。現在エンゲージメント最大化デフォルトを出荷している企業は、18か月以内に強制的にそれらを再設計することになるかもしれない。
推奨されるアクション:維持だけでなくウェルビーイングのために計測する(セッション長、深夜使用、依存シグナル)こと、そしてそれらを取締役会レベルのKPIとして扱うこと。規制当局が義務付ける前に、消費者向けモデルにエスカレーション解除とオフランプ行動を組み込むこと。純粋なエンゲージメントから検証可能な提供価値へと収益を多様化すること。投資家にとっては、強迫的使用に依存する成長のビジネスモデルを割り引くこと。その収益はAIスタック内で最も政治的・法的に脆弱なものだ。クリエイターの告白は初期の消費者感情シグナルであり、感情は規制が始まる場所である。
