私たちの社会がデータとAIに対する依存を強めるにつれ、アルゴリズムによる差別の問題が顕在化し始めた。有色人種の顔を認識できなかったり、マイノリティの住宅ローン申請が認められなかったりというトラブルは、すでに起きていることだ。自分たちの会社がこのような問題を引き起こさないように、責任あるAI（レスポンシブルAI）を実現するには、従業員のデータリテラシーを高めることが欠かせない。本稿では、そのための5つの戦略を紹介する。
有色人種の顔を認識できない顔認識ソフトや、マイノリティの人々への住宅ローンを拒否する融資ロボットなどに関する記事は、誰もが目にしたことがあるはずだ。
ますます多くの研究で明らかになっているように、代表性のない（多様性を反映していない）集団によって開発されたアルゴリズムは、この社会にすでにまん延している不平等を人工知能（AI）が持続させるという結果をもたらしている。より多くの企業がデータとAIへの依存を強めるにつれ、アルゴリズムによるこうした差別は、悪化の一途をたどるかもしれない。
大半の企業は、すでにこのことを知っている。彼らが模索しているのは、自社が悪しき一例として加わるのを防ぐにはどうすればよいか、である。
簡潔な答えとしては、自社が収集しているデータおよびその使い方について、真摯に考えることを全社員の責務とすることだ。アルゴリズムに疑問を投げかける人、構築する人、監視する人の輪を広げることが、責任あるAI（レスポンシブルAI）を生む唯一の方法なのだ。
この取り組みに求められるのが、データリテラシーである。すなわち、複雑なデータを解析して整理し、情報を解釈して要約し、予測を立てたり、アルゴリズムの倫理的影響を理解したりする能力だ。これは数学と同じように、初級・上級という方式で学ぶことができ、複数の専門分野にまたがり、概して学術的というよりは実践的な能力である。
組織でのデータリテラシーの向上は、データチームの多様化にも寄与する。彼らはデータの収集、処理、運用の方法をめぐる重要な意思決定の最前線に立つ人々だ。データチームを多様な顔ぶれにすることの重要性は、筆者がクオンツ・ファンドマネジャーとしての10年以上の経験から直接学んできた。
多様性のあるポートフォリオは、リスクが減るのでパフォーマンスが高いと一般的に考えられている。同様に、多様性のあるチームは、集団浅慮のリスクが減るため有能だといえる。
会社全体のデータリテラシーに投資することで、企業はより発散的で創造的な視点を取り入れることができる。それらを用いれば、アルゴリズムのバイアスに伴うリスクを緩和しながら、データによってしばしば顕在化する効率性と好機を見出せるのだ。
しかし、ほとんどの企業は、いまだにデータリテラシーの構築に苦労していることが、データを見るとわかる。ビジネスリーダーの90％は会社の成功のカギとしてデータリテラシーを挙げているが、従業員のうち自身のデータスキルに自信がある人は25％しかいない。
のみならず、一部の推計によれば、データサイエンスの専門家のおよそ10人中9人は白人で、女性は18％に留まる。ゼネラル・アセンブリーの調査によると、データサイエンスはダイバーシティに関しては、デジタルマーケティングやユーザーエクスペリエンス・デザインといったほかのテック分野よりもさらに遅れている。
必要性が明白で緊急性が高まっているにもかかわらず、データリテラシーの教育が体系的かつ広範に行われていないのはなぜだろうか。
この問いが、過去数年間における筆者の仕事にやりがいをもたらした。2018年にファンドを退職後、筆者が共同創業したコリレーション・ワンの社員は、金融サービス企業およびフォーチュン500企業とともに、よりインクルーシブなデータサイエンス人材のパイプラインの構築に取り組んでいる。
当社は小売チェーンのターゲット、ジョンソン・エンド・ジョンソン、コロンビア政府などを含むさまざまな雇用主を対象に、既存の従業員の能力測定を支援し、データサイエンティスト志望者への無料研修を提供している（ソフトバンクおよびマイアミ市と当社との提携など）。
これらの経験を通じて、データリテラシーの高い従業員基盤が緊急に必要であることを最前線の場で目の当たりにし、その目標を実現するために、企業での具体的な取り組みの導入を支援してきた。
以下は、当社が用いる戦略の一部である。
