AIサービスでは透明性と情報量のバランスをどう取るべきか
Yaroslav Danylchenko/Stocksy
サマリー：企業が提供するAIサービスにおいて、「透明性」は顧客の信頼を獲得するカギだとされている。しかし、AIの複雑な仕組みをただ詳細に開示するだけでは、かえって顧客を混乱させ、不信感を招きかねない。事実、透明性の向上は製品に対する顧客の要求水準をさらに引き上げてしまうのだ。では、企業はAIの「ブラックボックス」をどのように示せば、顧客の真の信頼を勝ち取ることができるのか。本稿では、先進企業の事例から、AI時代の信頼構築の要諦を提示する。

透明性を目指して信頼を損なうおそれ

　透明性は信頼を築く、とされている。しかし、AIというブラックボックスを開け、その仕組みを顧客に説明しようと躍起になるにつれて、多くの企業が意外な真実に気づき始めている。説明が多すぎるのに肝心なところは足りていない、ということが起こりうるのだ。その適切なバランスを取るのは難しい。透明性が不足すれば疑念を生み、多すぎれば情報に圧倒され、提供しようとしている明確さがぼやけてしまう。

　顧客側も、デジタルメッセージや開示情報、プロンプトが渦巻くやり取りにおいて、企業の透明性の取り組みに戸惑っている。

　あるウェブサイトは倫理的なAIへの取り組みを大々的に謳っているが、その説明はポリシーが延々と記載されているページに埋もれてしまい、誰も読みそうにない。ある製品リストの免責事項には、おすすめ機能は「AIを利用している」と小さな文字で記されているが、システムがどのように機能しているか、どのようなデータを使っているかは明らかにしていない。さらに、AIそのものとのやり取りでは、チャットボットが自分はAIによって動いていると明言しているものの、それが顧客やその情報にとって何を意味するのか、説明らしきものはない。

　こうした取り組みはいずれも明確さを目指しているが、多くは不十分だ。技術的なニュアンスや法律用語で顧客を振り回し、情報を与えるどころか混乱させるものもあれば、表面的な安心しか与えずに不完全な印象を残すだけの場合もある。顧客は不足部分をみずから補おうとして、その推測が次第に不信感へと変わる。

　こうした瞬間に、核心的な矛盾が浮き彫りになる。信頼を構築するための透明性の形が、あっさりと信頼を損なうこともあるのだ。顧客とのやり取りにおいて、企業はこの難題をどう乗り越えればよいだろうか。

1. 透明性を広範な信頼システムの一部として扱う

　透明性を適切に扱うことが難しい理由の一つは、単独ではなく、より広範な信頼のシステムの中で機能する点にある。組織は、平易でわかりやすい言葉でコミュニケーションを取り、配慮を示し、質の高い体験や製品を提供し、かつ確実に実行することを通じて信頼を獲得する。

　信頼を構成するこれら4つの要素──透明性（組織が率直かつ明確にコミュニケーションを取っているか）、人間性（共感と公平さを示しているか）、能力（質の高い製品と体験を提供しているか）、信頼性（約束を一貫して守っているか）──は、デロイトの「トラストID指数」の基盤となっている。これは顧客によるAI活用など、さまざまな行動を有意に予測する複合指標である。

　デロイトのトラストID指数（米国の顧客50万人以上から毎年集めた調査回答などをもとに算出される）が示す通り、これらの要素は独立して変動するのではなく、連動して上下する。一つを強化すれば他の要素も押し上げられるかもしれないが、同時に他の要素の弱さが露呈するリスクもあるのだ。

　透明性は、人間性と信頼性に対する認識の形成にとりわけ強く影響するが、能力への影響は比較的弱い。これは、情報を開示するだけでは能力について顧客を納得させられない理由でもある。たとえば、企業がAIによるおすすめ機能の仕組みを平易で人間的な言葉で説明すると、顧客はより多くの情報を得たと感じて安心感を覚える。これにより人間性と信頼性に対する評価は大きく高まるが、能力に関する評価への影響は限定的だ。透明性は理解を深めるが、パフォーマンスの証明にはならないからである。

　ある金融サービス企業が、リアルタイムに投資アドバイスを提供するAI搭載のプランニングツールを導入したと考えてみよう。顧客が2つの異なる場面について同じ質問を入力すると、自分の財務状況は何も変わっていないのに、それぞれについてツールは、異なる提案をするではないか。顧客にはシステムの不具合のように思えるだろう。しかし実際は、モデルが新しいデータを受け取るたびに学習と調整を重ね、市場情報が更新されるたびにユーザーの知らない間に再調整されていることについて、説明が一切なかったのだ。