AIを信用するか、信用しないかという単純な二元論ではなくて、意思決定プロセスをもっと高度にデザインしつつ、ガバナンスもしっかり効かせるということですね。

 海外の動きを見ると、AIによる自動意思決定は、人の権利に関わるような領域においては使うべきでないという規制が広がりつつあります。人間とAIが相互補完しながら意思決定していくという方向に世界は向かっています。

 DataRobotは、「信頼できるAI」(Trusted AI)というメッセージを打ち出していますね。

馬場 たとえば、AIの中身、意思決定のプロセスがブラックボックスではなくて透明性が高く、説明可能であるといったことが「信頼できるAI」のコンセプトです。なぜこのデータを使っているのか、なぜそういう予測結果が出るのか、どういった特徴量が結果に影響を与えているか、そういったデータサイエンスの説明可能性を担保できるAIです。

 また、人種や性別、年齢などによって不公平が生まれないように、バイアスや公平性を確認することができ、倫理性を継続してモニタリングできる仕組みもDataRobotには実装されています。

 データの中身が見えることやバイアスをチェックできることは、ガバナンス強化の観点からも有効です。さらに重要なのが継続的なモニタリングです。

森 正弥
デロイト トーマツ コンサルティング
執行役員 Deloitte AI Institute 所長

外資系コンサルティング会社、グローバルインターネット企業を経て現職。eコマースや金融における先端技術を活用した新規事業創出、大規模組織マネジメントに従事。世界各国のR&Dを指揮していた経験からDX(デジタル・トランスフォーメーション)立案・遂行、ビッグデータ、AI、IoT、5Gのビジネス活用に強みを持つ。東北大学特任教授。日本ディープラーニング協会顧問、企業情報化協会常任幹事。著書に『クラウド大全』(共著:日経BP社)、『ウェブ大変化 パワーシフトの始まり』(近代セールス社)など。

 たとえば、金融サービスのデジタル化に伴い、デジタルアカウントの貸し借りが簡単にできるようになりました。その結果、貧困層がアカウントを貸して、知らないうちに自分のクレジットが毀損されるということも起きています。データだけを見ると「この人は信用できない」となりますが、そのデータがどういうふうにつくられたのかを見ていかないと、正しい判断はできません。

 デロイト トーマツ グループでも「Trustworthy AI」(信頼に値するAI)というビジョンを掲げていますが、どのようなアルゴリズムで動いているかという「透明性」、どのデータが影響を与えているかという「説明可能性」や処理と結果に対する「公平性」に加えて、想定していない使用でも適切に動作する「ロバスト性」という観点も含めています。

 たとえば、人間の顔認証をする画像の中にゴッホの絵画を混ぜたら、人として認証されてしまうというようなことが起こりえます。想定していないデータを入れた時にも正しく動くのか、さらには「セキュリティ」や「プライバシー保護」の観点も含めて、信頼できるAIとは何かということを考える必要があると思います。

ミッションクリティカルなAI活用が始まっている

 先ほど、日本でもAIのユースケースが増えている一方で、全社横断的な活用が進んでいないとのお話がありましたが、日本におけるAIの活用状況と今後のあるべき姿についてあらためて伺えますか。

馬場 一つひとつをつぶさに見ていくと、非常に先進的な事例もあります。たとえば、医療の分野ではバイオマーカーの探索や疾患の予測、予防などにも活用されています。我々は「AI for Good」プログラムを通じて、非営利団体のAI活用を支援しており、コロナ禍においては、国立国際医療研究センター(NCGM)のCOVID-19のレジストリ研究に対して、人材、ソリューションの無償提供を行いました。

 こうした医療分野以外にも、営業・マーケティング領域におけるターゲティング、小売り・流通における自動発注、新製品の需要予測、製造・化学の分野ではマテリアルズ・インフォマティックスなど、ミッションクリティカルな領域でAIが使われるようになっています。

 ですから、最近私がよく言っているのは、「AI活用は実験ではなくて、ミッションクリティカルになった」ということです。つまり、プロジェクト段階ではなくて、戦略的活用のステージに入ったと認識することで、今後のAI活用のあるべき姿が見えてきます。

 我々の調査では、76%の経営者がAIは戦略的に活用すべきであり、積極的に投資をしてビジネス変革に使うべきだと回答していますが、同時に63%の経営者が、それをするためのデータや人材が足りないとしています。

 そうした企業こそ、AutoMLのメリットを活かして、データサイエンスのサイクルをできるだけ自動化することが戦略的活用につながるでしょう。ミッションクリティカルなユースケースが増える中で、「いまやらないで、いつやるんですか」ということです。

馬場 「データがない」という企業に対しては、今後、データマーケットの存在意義が大きくなっていくでしょう。我々のプラットフォーム上でも、「AIカタログ」というオプション機能で、気象データや人流データ、消費者パネルデータなど、外部パートナーから提供されるデータを活用できるようにしています。ユーザー企業は、自社のデータとこうしたオルタナティブデータを組み合わせることで、新たな洞察を得ることができます。

 「DataRobot University」や「DataRobot AIアカデミー」といった教育・研修プログラムを通じて、人材育成にも注力されていますね。

馬場 はい。DataRobot UniversityではDataRobotの活用スキルを身につけることができますし、DataRobot AIアカデミーではデータサイエンティストとして必要な知識やスキルをトップクラスの専門家から学ぶことができます。