あるセキュリティ研究者が、現在消費者向けAIアシスタントに搭載されている永続的メモリーを操作して、ユーザーの保存された個人データを表面化させ漏洩させる方法を実証した。具体的なエクスプロイトよりも重要なのは、それが露呈するカテゴリーである。メモリーは第一級の攻撃対象領域になりつつあり、ほとんどの組織はそれに対するポリシーを持っていない。

戦略的な変化は微妙である。2年間、業界はAIチャットをステートレスで使い捨てのものとして扱ってきた。今やAnthropic、OpenAI、Googleは長期メモリーの追加に競って取り組んでいる。なぜなら保持がエンゲージメントとスイッチングコストを高めるからだ。その同じ保持が、従来のデータガバナンス境界の外に存在する、ユーザーの機密情報、認証情報、ビジネスコンテキストの永続的なストアを生み出す。文書、メール、ウェブページに埋め込まれた間接的なプロンプトインジェクションは、モデルにメモリーから読み取り、後でそれを流出させるよう指示できる。ユーザーがトリガーを目にすることは一切ない。これは従来のデータ侵害というより、保存型XSS脆弱性に近く、既存のDLPツールはほぼ検知できない。

企業にとって、リスクは具体的である。メモリーが有効になったアシスタントに社内ロードマップ、顧客記録、APIキーを貼り付ける従業員は、事実上、管理されていないシャドーデータストアを作成している。規制対象セクターが最も鋭いリスクに直面している。インジェクションを通じて取得された漏洩した健康情報や金融情報は、GDPR、HIPAA、SECの開示義務を引き起こす可能性があり、AIベンダーと展開企業が責任を共有することになる。

推奨される対策は役割によって異なる。CISOは、エンタープライズティアでデフォルトでメモリーを無効にし、ワークスペースごとのメモリー分離を要求し、調達チェックリストにプロンプトインジェクションテストを追加すべきである。監査可能なメモリーログ、ユーザーが閲覧可能なメモリーコンテンツ、インジェクション耐性のある検索を提供するベンダーは企業の信頼を勝ち取るだろう。メモリーを純粋な成長レバーとして扱うベンダーは、次のコンプライアンス見出しになるだろう。投資家は、クラウド導入後にCASBが登場したように、AIメモリーガバナンスとインジェクション防御という新しいセキュリティサブセクターに注目すべきである。

より広範なシグナル:フロンティアラボの機能開発速度がセキュリティ成熟度を上回っている。メモリー関連のインシデントが、初期のクラウド設定ミスによる侵害と同等の2025年から2026年の問題になることを予想し、規制当局がAIが保持する個人データを完全に対象範囲内として扱うことを予想すべきである。今メモリー衛生をポリシーに組み込む企業は、後で緊急時に改修する事態を回避できるだろう。