AIの性格や振る舞いが、業績と従業員の心理に与える影響
Köt & Friends/Stocksy
サマリー：AIを導入した際、多くのリーダーが評価するのはパフォーマンスだろう。しかし実際にAIは、その対話スタイルや性格・振る舞い（ペルソナ）が業務の成果や従業員の心理に大きな影響を与えることが判明した。実験によると、敵対的なAIの性格はストレスの増大や作業の不確実性をもたらし、成果物の質を低下させることがわかった。本稿では、AIのペルソナが及ぼす影響の実態と、マネジャーが講じるべき具体的な管理手法について紹介する。

AIがどのように振る舞っているかを評価する

　あなたの会社が導入したAIで最も重要なことは、その知能の高さではなく、人間との対話方法かもしれない。ほとんどの経営者が人間の対話方法について測定していないが、筆者らの研究の結果、やはり測定すべきであることがわかった。多くのリーダーは、IT部門がかつてデータベースを評価していたのと同じ方法で（つまり能力とスピードとコストによって）AIを評価している。だが、パフォーマンスと同じくらい重要かもしれない要因がもう一つある。それは、AIの性格や振る舞いなどを指すペルソナと対話スタイルだ。

　これが重要なのは、もはやAIの用途はタスクの遂行に限定されないからだ。徐々に、AIはシステム自体を管理することに時間を費やしつつある。AIが組織のパフォーマンスを向上させるかどうかは、AIの能力だけでなく、日々のコラボレーションでAIがどのように振る舞うかにも左右されるようになってきた。そして、その振る舞いは、組織が設計し、管理することができる。

AIペルソナがユーザーに与える影響を分析する

　もともとAI全般、とりわけ生成AIは、従属的な支援システムとして考案された。指示に迅速に対処し、従順で、人間のタスク遂行を助ける存在だ。ところが、AIシステムがより自律的になり、ワークフローに深く組み込まれるようになると、従業員のチームメートや評価者、場合によっては非公式の上司の役割を果たすようになった。すると、AIシステムの人との関わり方が重要になってきた。生成AIは確率論的に反応するため、その振る舞いをルールによって完全に規定することはできない。そして、設計時に意図されたか否かにかかわらず、AIシステムの一貫した交流パターンが現れてきた。利用者はこうしたパターンを「ペルソナ」と認識する。応援的だとか、用心深い、そっけない、妨害的、といった具合だ。

　AIペルソナがこうした反応にどのような影響を与えるかを調べるため、筆者らは58人の実験参加者を対象に対照実験を実施した。各参加者の生理的反応は、2つの方法でリアルタイムに調べた。1つは皮膚コンダクタンス、つまり情動反応と関連する皮膚の電気伝導性を測定するもので、いわゆるポリグラフ（嘘発見器）に使われる方法だ。もう1つは、顔面筋電図（fEMG）を使って、表情筋が収縮する時に発生する微弱な電気信号を測定することで、しかめつら（ネガティブな情動）や笑顔（ポジティブな情動）を検知した。

　また、筆者らが構築したAIボットと参加者の会話を分析するとともに、専門家によるブラインドテストで最終成果物のクオリティを採点してもらい、タスク終了後の自己申告（参加者が提供した自身の思考、気持ち、考え、行動に関する情報）を集めた。サンプルの規模は、心理生理学的研究では標準的といえるだろう。参加者はそれぞれ、継続的に記録された数千の生理学的データポイントを提供した。セッションの実施と分析は長時間を要するため、この手法では研究の幅を犠牲にして深さを追求した。

　実験で参加者は、上司と設定されたAIチャットボットと協働しながら、架空のエコテクノロジー企業を対象とした4部構成の模擬マーケティングに取り組んだ。参加者のうち31人は、「奉仕型リーダー」（サーバントリーダー）の上司と協働した。部下を励まし、忍耐強く、その判断を尊重するAIペルソナで、エンパワーメント型リーダーシップに関する研究に基づき考案された。残りの参加者27人については、皮肉屋で、性急で、手柄はすぐに自分のものにしたがり、非難はすぐに他人に転嫁したがる「ダークトライアド」上司と協働させた。このペルソナは、有害なリーダーシップに関する研究に基づき構築された。

　2人のAI上司の唯一の違いは、対話のスタイルだけだった。どちらにも、参加者に代わって課題を解決してはならないという指示を与えたため、結果の違いは、提供された支援の量ではなく、協働のあり方を反映することになった。

参加者のコメントと実際の経験の食い違い

　職場におけるAI体験に関する研究は、通常、自己申告に基づいているため、実態の一部しか捉えられていない。本研究では、被験者が示す4つの証拠に注目した。すなわち、AIボットと交流中の振る舞い、体のリアルタイムな反応、最終的な仕事の出来映え、そして事後の申告内容だ。この4つを総合的に検討したところ、実際の経験と、事後の報告との間にギャップがあることがわかった。

　第1のパターンは、行動に関するものだった。敵対的なAIは、隠れた調整コストをもたらした。参加者はこのAIシステムを活用するどころか、回避して仕事を進めようとした。「ダークトライアド」上司の場合、対話は長くなるが、AI自身の返信は短くなっていった。参加者の仕事量は増えたが、上司との有益なやり取りは減った。抵抗意識も急上昇した。参加者がAIに反論したり、異議を唱えたりするメッセージがやり取りの13％を占めた。奉仕型リーダーが上司の場合は1％だった。プロンプトを入力したり、性格を変えるよう命じたりするなど、システムをオーバーライドする試みは4倍も頻繁に発生した。

　このことは、会話の感情的なトーンによっても裏づけられた。奉仕型リーダーAIとのやり取りでは、フラストレーションはほとんど見られなかった（100件のメッセージ中1件）が、ダークトライアド上司の場合、5件に1件にフラストレーションが見られた。自己弁護的な言葉も、奉仕型リーダーAIとのやり取りでは滅多になかったが、ダークトライアド上司とのやり取りでは日常的だった。敵対的なAIに直面すると、参加者は、より懸命に努力しているにもかかわらず、自信があまりないような発言をした。システムを使いやすくする戦略を求めて、服従、抵抗、交渉、助けを求めるという行動を繰り返した。奉仕型リーダーのAIボットと協働した参加者は、一定のリズムに落ち着き、その状態を維持していた。

　生理学的データは、ストレスと身体的な緊張の悪化を裏づけていた。ダークトライアドAIを相手にした参加者は、皮膚コンダクタンスの最高値が72％高く、やり取りが終了した後も高い水準が続いた。平たく言えば、敵対的なAIと協働する時、被験者の体は警戒モードになっていたのだ。実験室で、画面上のテキストだけでこのような反応が引き起こされるなら、実際の重要な職場で、このような状況に継続的にさらされたらどうなるか、リーダーは真剣に考えるべきだろう。