KPMGはAIの価値を称賛するレポートを発表したが、その後の検証で捏造された引用文献や創作されたデータが散りばめられていることが判明した。これは大規模言語モデルの典型的な幻覚である。この皮肉は、単に恥ずかしいというだけでなく、教訓に満ちている。

より深い問題は、現在プロフェッショナル・サービス業界全体に組み込まれた構造的な利益相反である。KPMG、Deloitte、PwC、McKinseyのような企業は、同時に企業のAI導入の最も声高な擁護者であり、AI変革コンサルティングのベンダーであり、そして自社の制作コストを削減するためにこれらのツールを最も多用する内部ユーザーでもある。戦略を販売するのと同じ企業が、未検証のAIを使ってその戦略を書いている場合、アドバイザリーモデル全体の成果物の品質が疑問視される。これは一度限りの誤りではなく、知識労働における信頼の体系的な侵食の予兆である。

グローバル企業の経営幹部にとって、実践的な教訓はガバナンスであり、禁欲ではない。幻覚問題はよく理解されている。モデルは自信をもってもっともらしい虚偽を生成する。しかし、ほとんどの組織は、AI生成されたクライアント向け成果物に対する必須の人的検証レイヤーをいまだに欠いている。コスト非対称性は残酷である。アナリストは起草で1時間節約するが、取締役会レベルの文書における一つの捏造された統計は、規制上のエクスポージャー、訴訟、または桁違いに大きい評判被害を引き起こす可能性がある。企業はAI出力を、ソースレベルの事実確認を必要とする若手による下書きとして扱い、何が機械生成され、何が独立して検証されたかを文書化する監査証跡を残すべきである。

また、新たな説明責任ベクトルも存在する。AI提供者を精査する米国州検事総長の波を含む規制当局は、自動化されたコンテンツが誤解を招いた場合、誰が責任を負うのか、つまりベンダーか、モデル製作者か、それを公表した企業かを、ますます問うようになるだろう。職業賠償責任保険会社が、AI開示条項の価格設定を開始し、補償の条件として検証プロトコルを要求することが予想される。

戦略的な要点は、AI時代における競争優位は、最も速くツールを導入することからではなく、その出力を信頼できるものにする検証インフラを構築することから生まれるということである。出所追跡と人間による承認を通じて、AI支援作業を信頼性をもって認証できる企業は、このような幻覚スキャンダルがこれから日常化するまさにその理由により、プレミアムを要求できるだろう。