「人間の認知バイアス」がAIの判断をゆがめる
HBR Staff/Pexels
サマリー：AIのバイアスはデータだけでなく、人間の認知バイアスによっても形成される。AIとの相互作用において、ユーザーはプロンプトの入力前後や入力中に「確証バイアス」や「便宜性バイアス」などを持ち込み、その結果が判断をゆがめるリスクがある。組織がAIの潜在能力を引き出すには、批判的思考を促す仕組みづくりが不可欠だ。本稿では、人間とAIのエコシステムに潜むバイアスの正体を説き、その悪影響を最小限に抑える実践的な方策を紹介する。

AIのバイアスは私たち人間によって形成されている

　生成AIに関して広く議論されている懸念の一つは、バイアスのあるデータで学習したシステムが、そのバイアスを永続させ、ひいては増幅させることで、不正確なアウトプットや不公正な意思決定を生む可能性があるという点だ。しかし、それは氷山の一角にすぎない。企業がAIを自社のシステムと意思決定プロセスにますます取り入れている中で、ある重要な要因がしばしば見過ごされる。それは、認知バイアスの作用である。

　AIのバイアスは、データに組み込まれているだけではない。バイアスは私たち自身によって形成され、人間とAIの相互作用が織りなす広範なエコシステムに埋め込まれている。バイアスはデータ自体から生じるだけでなく、人間の行動と機械学習システムとの動的な相互作用からも生じるのだ。人々がAIと──思考、質問、解釈、意思決定、応答などを通じて──どう関わり合うかが、これらのシステムの振る舞い方と生成結果に大きく影響を及ぼしうる。

　明確な意図と適切な仕組みがあれば、個人、チーム、組織は、AIをより責任ある形で、より効果的に活用できるようになる。その結果、優れた意思決定と強固な成果の実現に向けて、真のパートナーとしてのAIの潜在能力を引き出すことができる。

AIの使用において、人間の認知バイアスはどのように現れるのか

　認知バイアスとは人間の思考における体系的なゆがみであり、思考の近道、感情の影響、社会的圧力などによって生じうる。これらのバイアスは、複雑な世界で素早く意思決定を行うために役立つ一方で、間違った判断を招くこともある。たとえば、特定のデータを過度に重視し、他の関連情報を見逃す原因になりうる。こうしたバイアスは主に私たちの意識の外側で働き、往々にして成果を損なうような形で、情報の解釈と意思決定のあり方に微妙に影響を及ぼす。

　認知バイアスは、情報を単純化しようとする脳の本能から生じる自然な副産物であるため、それがAIの使用にどう影響しうるのかを理解することは不可欠だ。リーダーはこの認識を高めることで、バイアスの影響を管理するための事前措置を講じ、必要に応じて直観的思考の利点を活かしながら、AIの支援による重要な意思決定がバイアスによってゆがめられるリスクを最小限に抑えることができる。

　この相互作用は一方向のものではない。AIシステム側もまた人間の思考に影響を及ぼし、えてしてユーザーの気づかぬうちに、既存のバイアスを時とともに助長する可能性がある。この広範で相互接続的な人間とAIのエコシステムを認識することは、AIツールとの関わり方を向上させ、より十分な情報に基づく質の高い意思決定を行ううえで不可欠だ。

　このような複雑性を踏まえ、リーダーはどこに焦点を当てるべきだろうか。

　まずは、人々がバイアスを持ち込む可能性が最も高いいくつかの重要な場面に注意を払うことから始めよう。すなわち、AIにこれから助けを求める「プロンプト入力前」、AIに質問してアウトプットを評価する（および有益なアウトプットを得るために、必要に応じて再度指示を出す）「プロンプト入力中」、そしてAI主導のアウトプットを用いて何かを行う「プロンプト入力後」である。

拡大する

プロンプト入力前

　AIと関わり合う前の段階からすでに、プロンプターの思考プロセスは重要な作用を及ぼす。AIを使うか否か、そしてどのように使うかの判断は、「ハロー効果」や「ホーン効果」といったバイアスの影響を受ける可能性がある。プロンプターが過去にAIをめぐってポジティブな経験をしている場合、それがAIを見る際の「後光」（ハロー）となり、たとえAIに不向きかもしれないタスクであっても、AIはおおむね信頼できるものと思い込むおそれがある。