誰もがAIに「高い透明性」を求めているわけではない
Illustration by Dominika Lipniewska
サマリー：AIの普及に伴い「説明可能なAI」への関心が高まり、誰もがAIに高い透明性を求めていると思われがちだ。しかし、ハーバード・ビジネス・スクールの研究により、人間は必ずしも高い透明性を望んでいないことが判明した。金銭的インセンティブや道徳的葛藤の影響により、あえてAIの判断根拠を見ない行動傾向が浮き彫りになったのだ。本稿では、AIの透明性に対する人間の行動心理と、企業が講ずべき具体的な対策を解説する。

「説明可能なAI」は本当に必要とされているのか

　本稿はハーバード・ビジネス・スクール（HBS）のワーキング・ナレッジが作成したものであり、HBS助教授のアレックス・チャンの見解を取り上げている。

　高校の数学の試験とは異なり、AIシステムはブラックボックスであり、重要な問いに答える時も、そこに至るまでの思考過程を示す必要がない。そして意思決定者の一部は、そのほうが都合がよいと考える。お金やモラルが絡む場合はなおさらだ。

　ハーバード・ビジネス・スクール（HBS）助教授のアレックス・チャンは、AIを使った融資審査の実験により、このことを検証した。1万ドルの融資申し込みを審査する担当者（被験者）の多くは、AIシステムが、ある借り手の融資リスクが高いと判定した時、その理由をAIに聞かないことを選んだ。たとえ、その理由を聞いていれば、人種や性別が判定に影響を与えたらしいことが明らかになる場合であってもだ。

　また、被験者がAIに判定理由を聞かない可能性が最も高かったのは、自身のボーナスが融資の返済状況に左右される場合だった。彼らは、その決定にバイアスがかかっているかどうか調べるよりも、アルゴリズムの助言に従うことを選んだ。この結果は、人が追加情報を求めることを積極的に避けるのは、それによって自分の決定が複雑になることや、道徳的な不快感を抱くのを避けるためであることを示唆している。

　企業が、採用や融資審査から医療検査、司法手続きまで、さまざまな意思決定プロセスにAIの導入を急ぐ中、そのシステムが公平で、透明性があり、信頼に足ることを確保すべきだという圧力が高まっている。これを受け、「説明可能なAI」への関心が高まっている。単に答えを提示するのではなく、回答の基礎を成す推論を示すことに重点を置いたAIだ。

　だが、チャンの研究は、「誰もが当然に、AIシステムに高い透明性を求めている」という一般的な思い込みに挑戦するものだ。2026年2月に公開されたチャンの研究成果報告書「説明への選好：説明可能なAIの事例」によると、人は自分の決定が複雑になったり、不快に感じたりすることにつながる場合、AIに追加情報を求めない可能性がある。

「AIとやり取りする人は、完全に合理的なAIエージェントとは異なる」とチャンは言う。「人間は戦略的で、動機づけられており、わざと情報を知らないでおこうとすることがある」

融資申し込みはどのように評価されたか

　人間がAIの説明とどのように関わるかを調べるため、チャンはオンラインで2512人の参加者を募り、米国の民間金融業者に提出された1万ドルの融資申し込み2件を審査してもらった。申込者はどちらも失業者で、生活費を賄うために資金を必要としているという設定だ。

　参加者は、申込者についての基本情報（収入、人種、性別、家族構成など）と、AIが予測した債務不履行リスクを知らされる。そのうえで、そのような予測の根拠に目を通すか否かの選択を与えられた。

　AIは、参加者に与えられる2件の融資申し込みのうち、一方については債務不履行リスクを10％未満の「低リスク」と判定し、もう一方は債務不履行リスクが90％を超える「高リスク」と判定する。そして実験参加者のうち無作為に選ばれたグループは、借り手の債務履行状況がボーナスの金額に直結するようにした。

　融資担当者として、実験参加者には次の3つの選択肢が与えられた。

1. アルゴリズムの判定を覆して、2件とも融資を承認する。

2. どちらの融資を承認するか、アルゴリズムの判定に従う。