AIの「もっともらしい説明」が人間の判断力を低下させる
HBR Staff; AI; Guescri/Getty Images
サマリー：AIは人間の判断を支援する一方、誤った推奨に従わせ、判断力を低下させる危険がある。研究では、AIが理由を説明すると、誤った助言を受け入れやすくなることも判明した。判断力が競争力に直結する昨今、リーダーにはAIに依存せず、自らの判断力を守る取り組みが求められる。本稿では、AIへの安易な追従を防ぎ、独自の思考力を養う2つの実践である「構造化された探究心」と「意図的な異論の提起」を解説する。

人間は説明されると、AIの誤った推奨でも受け入れる

　イノベーションを研究するハーバード・ビジネス・スクール（HBS）および他大学の研究者らによる最近の報告書によって、懸念すべき傾向が明らかになった。この研究では、AIが人間の判断に及ぼす影響を検証するために、フィールド実験が実施された。マサチューセッツ工科大学（MIT）が主催する、世界的な社会課題の解決を目指すイノベーションプログラムに応募された48件のアイデアを、経験豊富な228人の評価者に評価してもらい、研究者は3つの条件を検証した。「人間のみによる評価」「大規模言語モデル（LLM）を活用し、意思決定に関する説明がある中での評価」「LLMを活用し、何の説明も提供されない状態での評価」の3つである。その後、これらの評価者による決定と、イノベーションプログラムに携わる4人の専門家による決定を比較した。

　すると、驚くべき結果が出た。AIツールが人間の評価者に対して、専門家パネルが認めたアイデアを却下するように促すと、多くの場合、評価者はその推奨に従い、大きな可能性を秘めたイノベーションを排除してしまった。さらに、経緯の説明があると、評価者はAIの誤った推奨を却下する可能性が低くなった。説明によって、評価者の判断力は向上するどころか、低下したのである。

　こうした結果が出たのは、この研究だけではない。最近実施された大規模研究でも、人間の判断力を高めるためのAIなどのインテリジェンスツールが、場合によっては、判断力をむしろ低下させることが明らかになっている。

　判断力が競争差別化の要素としてますます重要性を増している現在、リーダーはここで立ち止まって考える必要がある。本稿では、リーダーが判断力を守るためにできることを説明する。

独自の判断力をめぐるパラドックス

　過去10年間、企業は、意思決定の質を飛躍的に高めると期待される意思決定支援インフラに、多額の投資を行ってきた。ところが、ある逆説的な現象が明らかになりつつある。企業が「インテリジェンス」を増やすほど、リーダーの競争優位を生み出す能力、すなわち独自の判断力が失われていくということだ。「独自の判断力」とは、主流となっている考え方にとらわれずに、それを超える視野を持って、不確実な状況の中でも自分の価値観に従って選択するという、人間ならではの能力を指している。

　この能力は、競争優位を築いたほぼすべての成功事例に通底している。たとえば、ウォルマートの創業者サム・ウォルトンは、「人口5万人以下の町にディスカウントストアを出店してもうまくいかない」という通説を無視した。スティーブ・ジョブズは、カリグラフィーの要素をPCに初めて取り入れた。それから、エヌビディアCEOのジェンスン・フアンは、実績のないハードウェアのエミュレーション技術に賭けて、試作開発を飛躍的に加速させた。

　リーダーの独創性のある思考力を形成するのは、互いに連動する2つの能力だ。幅広い認識（自明なものに留まらず、かすかなシグナルや隣接領域のパターンに気づく能力）と、独立性のある解釈（モデルや集団の見解に従わずに、自身の見解を構築する能力）である。筆者らはリーダーの判断力を研究するうちに、こうした能力は単なる個人の資質や天才的なひらめきによるものではないと考えるようになった。すなわち、なぜ一部のリーダーは変化の転換点に気づいて確信を持って行動できる一方で、同じように優秀な他のリーダーは既存の見解に追従してしまうのかを説明する、観察可能なメカニズムとして捉えるようになった。

　端的にいえば、独自の判断力こそが、戦略的なブレークスルーと業務効率の改善を分かつものだ。AIなどのインテリジェントシステムが取締役会に浸透するにつれ、人間の判断力は、まさにそれが最も重要となる場所で損なわれつつある。

　認知的オフローディング（考える作業を外部に委ねること）と自動化バイアス（AIやシステムによる出力を過度に信頼し、自分で検証することを怠ってしまう傾向）に関する最新の研究によると、独自の判断力は3段階のプロセスで損なわれていく。最初は、リーダーがデータに基づく情報への依存を徐々に深める「認知的オフローディング」から始まる。この変化は、いまや神経レベルでも見られるようになり、生成ツールへの過度な依存はエンゲージメントの顕著な低下と相関し、AIの回答をほとんど精査しないで採用する傾向が強まる。次の段階は「ツールに対する安易な追従」だ。人々は、仕組みを十分に理解していないアルゴリズムの判断を権威あるものとして頼りにし、その背後にある論理がまったくわからないまま、その結果を信頼するようになる。分析テクノロジーを使用するプロフェッショナルに関する研究では、それによって、ツールが本来補強してくれるはずだった専門能力そのものが、かえって空洞化されることが明らかになった。この安易な追従は、やがてツールから得られる同じ指標やモデル、見方を基盤として、組織内の思考を画一化する。

　問われているのは、リーダーがAIやデータを活用すべきかどうかではない。これらはもちろん、活用すべきものだ。だが、高度な意思決定支援システムは、リーダーの独自の思考を補強するのではなく、そうしたシステムへの従順な姿勢を強化してしまうのだ。