(1)アルゴリズムは、そのもとになったデータを生み出した既存の社内慣行に比べれば、バイアスの影響が弱い可能性がある。
幻想を持つことはやめよう。人間の判断力はえてしてお粗末なものにすぎず、既存の人事慣行の大半は緻密にはほど遠い。
たとえば、管理職個人に社員採用の判断を委ねたとする。その場合、一人ひとりがいくつものバイアスを持っている可能性が高く、業務上のパフォーマンスとは関連性のない要素に基づいて、候補者を不利に扱ったり、有利に扱ったりしかねない。
ある管理職は、みずからの母校である大学の出身者を採用したがるかもしれない。それに対し、別の管理職は、その大学の出身者との関係で嫌な経験をしたことがあり、不利に扱うかもしれない。その点、少なくともアルゴリズムは、ある要素に関してすべての候補者を等しく扱う(その基準自体が公正かどうかは別問題だが)。
(2)あらゆる要素について、良質の指標があるとは限らない。また、最終的な決定を下すに当たり、さまざまな要素にそれぞれどの程度の重みを持たせて結論を導き出すべきかについて確証がない場合もある。
たとえば、「よい社員」とはどのような人物のことなのか。当然、仕事をこなせなくてはならないし、同僚とうまくやっていける必要もある。企業文化との相性も良好でなくてはならないし、すぐ辞めずに長く働き続けることも重要だ。
このように重要な要素がいくつもあるにもかかわらず、指標が存在する単一の要素だけを基準にしてアルゴリズムをつくれば、その要素だけを基準に採否を決めることになる。
その結果として、ほかの要素の面では好ましくない人物が選ばれてしまうこともありうる。たとえば、顧客に対する姿勢は素晴らしいけれど、同僚に対する姿勢があまりにひどい営業部員を採用する恐れもある。
しかし、ここでもやはり、人間による判断のほうが好ましいとは言い切れない。理屈の上では、昇進の決定を下す1人の管理職が重要な要素すべてを考慮して判断できそうにも思える。しかし、それぞれの要素に関する判断にどうしてもバイアスが入り込む。
しかも、それぞれの要素にどのような重みをつけて判断を下すかも、恣意的にならざるをえない。精力的な研究により、マネジャーが自分の判断を重んじるほど、決定の質が悪くなることがわかっている。