会社を動かす暗黙のルールを可視化し、AIエージェントを再設計せよ
Illustration by Ana Yael
サマリー:AIエージェントが正確に業務を処理しても、人間なら察知できたリスクの予兆を見逃し、多額の損失を招くことがある。AIの導入は、人間が無意識に担ってきた判断や裁量という「隠れた業務のレイヤー」を浮き彫りにする。自動化によってこのレイヤーが失われると、組織に深刻な危機をもたらす可能性が高まる。本稿では、企業が暗黙の組織構造を可視化し、AIと人間の役割分担を正しく再設計するための具体的な手法を紹介する。

AIの活用で顕在化する、人間による隠れた重要業務

 ある富裕層のクライアントが、受取人指定を変更するために金融サービス会社に電話をかけた。これは定型的な手続きだ。自動的に応答したAIエージェントはこの問い合わせを正しく分類し、オペレーション部門が処理を行い、コミュニケーションエージェントは標準テンプレートに沿って作業の完了を確認した。システムのどの部分も設計通りに動いた。

 だが、このクライアントのポートフォリオを2年間管理していた専属アドバイザーなら、この手続きの背後にあったサインを読み取れただろう。直近の四半期レビューにおいて、クライアントは相続計画について言及したことがあり、口座の移転についてもさりげなく質問し、友人の一人が他の金融機関に口座をまとめたことにも何気なく触れていた。こうした情報は、顧客関係管理(CRM)データのどこにも載っていない。それは、経験を積んだアドバイザーだからこそ読み取れる、会話の中に潜むサインだった。3週間後に行われた受取人変更が、ただの定型的な手続きではなく、はるかに大きな決断に向けた最初の一歩であることを示すサインだったのだ。

 人間のアドバイザーなら、クライアントに直接電話をかけただろう。その目的は、変更手続きを進めるためではなく、書類では把握しきれないことを話すためだ。だが、この会社は事務処理を進め、テンプレートのメッセージを送信した。1カ月後、クライアントは取引を打ち切り、多額の資産が入った口座を競合他社に集約してしまった。

 誰も間違ったことはしていない。どのAIエージェントも正確に業務を遂行した。それにもかかわらず、会社は判断を誤った。というよりも、取引関係を揺るがしかねない静かな予兆に気づけなかったのだ。

 こうした場面は、見えにくい問題が可視化された一例である。長年、人間が黙々とこなしてきた業務には「隠れたレイヤー」が存在していた。そして、AIエージェントを導入し、そのレイヤーが抜け落ちて初めて、隠れたレイヤーの存在が露わになったのだ。筆者はこれまで20年間、営業・サービス組織について研究し、企業がどのように現場業務のタスクを配分し、インセンティブを設計し、顧客との接点で人間の判断力に頼っているのかを調査してきた。AIと現場業務に関して筆者が現在行っている研究では、AIシステムを導入する経営幹部と対話を重ねながら、この隠れたレイヤーを可視化してきた。以下で取り上げる状況は、複数の事例を組み合わせて構成したものだが、企業は実在し、記録も残っている。

企業には隠れた運営システムがある

 どの組織にも2つの運営システムがある。一つは手続きマニュアルに記されたシステムであり、そこには文書化されたワークフロー、成文化された方針、正式な基準、指揮命令系統などが含まれている。AIエージェントを構築する際に、エージェントが取り込むのはそうした情報だ。もう一つは、実際に現場を回しているシステム、つまり「暗黙の組織」である。それは、知識、動機付け、判断から成る成文化されていないシステムであり、それが正式な業務プロセスを機能させている。明文化された組織がエージェントに何をすべきかを教えるのに対し、暗黙の組織は人間に、何に気づくべきか、何を重視すべきか、いつ立ち止まるべきかを教える。

 この暗黙の組織は、正式なシステムでは不可能な3つの働きをする。

連携する

 非公式なコミュニケーションと暗黙の慣行が、正式な業務フローだけではつながらない部分をつないでいる。たとえば、不審な取引に気づいたアソシエイトが、コンプライアンス報告書を提出するのではなく、アドバイザーにさっとメッセージを送るようなケースだ。

動機付けをする

 企業文化、プロフェッショナルとしてのアイデンティティ、キャリアへの関心は、正式なインセンティブだけでは十分に規定できない形で、人々が実際に何を重視するかを方向づける。たとえば、引受担当者が取引先との関係性の価値を重んじるのは、職務記述書にそう書かれているからではなく、企業文化がそれを重視しているからだ。

抑制する

 人間は、何かがおかしいと感じた時、たとえ続行する権限を持っていても、プロフェッショナルとしての判断で立ち止まることがある。研究者はそれを「プロフェッショナルの裁量」と呼ぶ。マニュアルで教えられているから中断するのではない。どのソフトウェアAPIも、嫌な予感を察知することはできない。だが、マニュアルには書かれていない、その躊躇こそが、些細な局所的エラーが組織の危機へと発展するのを防いでいるのだ。