AIを「従業員」のように扱ってはいけない理由
Illustration by Oscar Duarte
サマリー：AIを従業員のように扱えば活用が進むとは限らない。実験では、説明責任の曖昧化やレビュー品質の低下、従業員の職業的アイデンティティや信頼の毀損が確認され、AI導入意欲も高まらなかった。重要なのは、責任と品質を維持できる形でAIを業務に組み込むことである。本稿では、AIの擬人化がもたらす組織への悪影響を実験データから明らかにするとともに、人間とAIが責任を持って協働するための5つの業務再設計論を紹介する。

エージェント型AIとの協働で問われる説明責任

　組織のAI導入が加速する中、多くのリーダーがあるシンプルなアイデアを検討している。AIを単なるツールではなく、一人の従業員として扱おうという発想である。

　エージェント型AIシステムの登場によって、この考え方の説得力がいちだんと高まっている。AIエージェントは高い自律性を備えており、人間と同じ水準で遂行できる業務も増える一方だ。リーダーたちは、AIの擬人化を通して従業員がAIを身近に感じられ、投資家や顧客、社内の関係者に向けて自社のAI活用への意欲を示せると考えている。

　しかし実際には、AIを従業員と見なす試みは、そう簡単には成功しない。筆者らが実施したランダム化実験では、AIを人間のように扱った結果、個人の説明責任が弱まり、上司に追加レビューを依頼するケースが増え、レビューの質が低下し、さらに職業的アイデンティティと信頼が損なわれる可能性があることが明らかになった。しかも、AIによる莫大な価値創出を阻む最大の障壁である「AI技術をワークフローに組み込もうとする意欲」が有意に高まることもなかった。

　これらの知見は重要な点を示唆している。エージェント型AIは、組織が達成できる成果や業務の進め方を大きく変える可能性を秘めている。問題は、AIを導入するか否かではなく、説明責任を維持し、品質を保ち、従業員がAIと効果的に協働できるような形で、いかにAIをワークフローに組み込むかにある。

AI従業員が職場にやってくる

　組織はさまざまな形で、AIエージェントの担う役割の制度化を進めている。AIに名前や役職を与える、組織図や業務分担図に掲載する、上司を割り当てる、AIをチームメートや従業員と呼ぶといった具合だ。

　この1年ほどの間に、「AI従業員」や「デジタル社員」に関するCEOからの発表が相次ぎ、AI導入をめぐる幅広い議論の中で、この話題が取り上げられるようになった。筆者らも、AIを気軽に「同僚」と呼ぶケースから、組織図への正式な追加を発表したケースまで、この考え方を検討している経営幹部からさまざまな話を聞いている。

　こうした位置づけの中には、社会的・象徴的な意味合いを持つものもある。たとえば、AIに人間の名前をつけることによって、AIシステムに呼びかける手段が生まれたり、場合によっては、AIを身近で親しみやすい存在だと感じられたりする。

　一方、ガバナンス上の選択として、人間の従業員に付与されている権限や説明責任、監督に関する一連の期待をAIにも適用するケースもある。具体的な方法はさまざまだが、いずれも根底には、AIの位置づけを「従業員が利用するもの」から、「組織がチームの一員として認めている存在」に切り替えようという発想がある。

　筆者らの調査でも、この変化がすでに進行していることが示されている。実験に参加した米国、カナダ、EUの人事・財務部門のマネジャー、部長職、経営幹部（以下、「管理職」）1261人のうち、31％が「自社の経営陣はすでにAIをチームメートまたは従業員として位置づけている」と回答した。また、「自社の組織図や業務分担図にAIエージェントが掲載されている」と答えた人も23％に上った。この傾向はテクノロジー業界に限らず、医療、金融サービス、小売り、プロフェッショナルサービスなどの業界にも広がっている。