●能力主義

 能力主義とは、英国の社会学者マイケル・ヤングが風刺SF小説で愚弄的に使った造語だが、いまや採用活動から企業方針まで、シリコンバレーに広く浸透しており、テクノロジー業界が現代人の生活に与える影響を正当化する概念にまでなった。

 倫理それ自体は、より賢く、より優れていて、よりスピーディなアプローチを追求することの一環だと位置づけられることが多い。まるで、テクノロジー業界が抱える問題は、こうした長所によって対処できるとでも言うかのように。

 だとすれば、テクノロジー業界の多くの人間が、テクノロジーにさほど詳しくないステークホルダー(政治家や権利擁護団体など)よりも、自分たちのほうが倫理問題にうまく対処できると考えるのは驚きではない。私たちの調査では、この考え方は、テクノロジー企業がプロダクトの倫理性評価を「現場でリアルな問題に取り組む」エンジニアの個人的な判断に任せている事実に現れていた。

 設計者が、プロダクトの影響を詳細に調べる厳格な手続きは、ある程度存在する。だが、あるプロダクトが現実世界で有害な影響を与える可能性について、会社でどれほど「よく考え」ても、エンジニアとはあまりに異なる環境で生きる消費者が、恣意的な警察活動顔認識技術によりマイナスの影響を受ける可能性を完全に理解することはできないだろう。

 倫理オーナーは、多くの領域で総合的な能力があると自負する技術系社員と、倫理とはコンテクストに関する深い理解を要する特殊な領域だという知識の間とで引き裂かれている。

 ●市場原理主義

 テクノロジー企業は常に、公益よりも自社の利益を優先するわけではないが、倫理に投資する必要性を説得するときは、市場の論理を強調することが有効になる。ある研究部門のシニアリーダーの言葉を借りると、「倫理オーナーがつくるシステムが、会社に付加価値をもたらすものだと感じられなくてはいけない。会社に価値をもたらさない、ただの大きな障害物だと感じられてしまったら、誰も実践してくれないだろう」

 たとえ利益の最大化がすべてではないといっても、議論の条件を決めるのは市場だ。したがって倫理オーナーは、AIの重大なリスクを回避することと、倫理的なAIの利点を強調することのバランスを取らなくてはいけない。「人種バイアスやジェンダーバイアスに関する追加検査をしていないから」あるいは「訴訟リスクがあるから」とAIプロダクトのリリースに反対する場合と、「もっと幅広い検査をしたほうが、もっと売上げが伸びる」と主張する場合とを、うまく使い分ける必要があるのだ。

 前者は法務チームやコンプライアンス・チームに効果的で、後者はプロダクト開発チームに受け入れられやすいだろう。

 ●技術解決主義

 あらゆる問題に技術的解決策が存在するという考え方は、それを信奉するテクノロジー業界の莫大な利益によって補強されてきた。技術的な成功を推進するプラクティスが、倫理的な問題にも援用されがちなのはこのためだ。

 このことは、複雑な倫理的な問いを、チェックリストや手順、評価可能なメトリクスといった、わかりやすいエンジニアリング作業に落とし込もうとする試みに現れている。だが、技術的な問いに分解されても、倫理とは「大きすぎて対処できない問題」になる。

 この緊張は、AIのバイアスと不公平さに対処する際に大きく露呈する。

 複雑な統計的手法を使ってアルゴリズム・バイアスを是正する方法はたくさんあるのに、その基礎となるデータ収集におけるバイアスや、現実世界におけるバイアスを取り除くための努力は、さほどなされていない。また、「公平な」アルゴリズムといっても、公平さはプロダクト開発において倫理性の下位概念に位置づけられているにすぎない。どんなに公平を期して、バイアスのない人材を確保しても、その人たちが危険なプロダクトによって害を受けたら意味がない。