-
Xでシェア
-
Facebookでシェア
-
LINEでシェア
-
LinkedInでシェア
-
記事をクリップ
-
記事を印刷
責任あるデジタル技術の利用が競争力を左右する
AIには、ある根本的なパラドックスがある。企業によるパーソナライゼーションの大規模化、サービス提供の自動化、業務インサイトの生成を可能にする同じ能力が、監視、操作、差別も可能にする。2025年、ロボット玩具メーカーのアピターは、子どもの位置情報を収集して中国の第三者に送信したとして罰金を科された。シリウスXMラジオは、人事担当者が履歴書を見る前に、AI採用ツールが郵便番号や出身校といった人種の代理変数を使って黒人応募者をふるい落としていたとされ、提訴されている。オーストラリアの規制当局は、複合企業ウェスファーマーズ傘下の小売企業2社が、十分な通知なしに買物客に顔認識を使用していたことを確認した。
こうした事例は今後、一般的になると筆者らは見ている。生成AI、エージェント型AIシステム、サービスロボットが顧客接点業務の奥深くまで入り込むにつれ、技術的に可能なことと組織の責任能力との差が広がっている。かつては当たり前に存在し、ほとんど測定されることのなかった信頼は、いまや稀少な資産だ。信頼を得られない企業は、規制措置や評判の低下、そしてより信頼される道を選んだ他社への顧客流出に直面する。
筆者らは8年にわたり、「企業の責任あるデジタル技術利用」（CDR）──企業がデータやAIをエコシステム全体で責任ある形で設計・導入・改善するためのガバナンス──を研究し、さまざまなサービス業での導入を観察してきた。その結果、CDRが急速に競争優位の源泉になっていることがわかった。本稿では、その能力をどう構築するかを示したい。
変化する信頼性の意味
CDRの重要性が高まっているのは、基盤技術がかつてない形で大きな影響力を持つようになったからだ。AIの3つの波によって状況が一変した。
第1の波は生成AIである。大規模言語モデルやマルチモーダルモデルは、いまやテキスト、画像、コード、意思決定を大規模に生成する。すきだらけの顧客を狙う宣伝コピーを作成し、本物と見分けがつかない偽レビューを生成し、専門の有資格者を縛る責任構造なしに法務・医療・金融分野のコンテンツを創出できる。これらのモデルは、明示的なルールではなく膨大なデータセットから独自の論理を導くため、その判断は作成者にさえ不透明であることが多く、責任や偏りなどの難しい問題を生み出している。2024年の研究によれば、AIを使用して生成されたサイトに、デフォルトで「欺瞞的なデザイン」（DD、ダークパターン）が含まれていた。AI学習データに混入していた情報操作をモデルが学習したためだった。
第2の波はエージェント型AI、すなわち、単にプロンプトに応答するだけでなく、目標に向かって自律的に一連の行動を実行するシステムだ。航空券の予約、取引執行、クラウド基盤の管理、顧客サービス対応などを、人間による各段階の確認なしに行える。マッキンゼー・アンド・カンパニーによれば、組織の80％がすでに本番環境でAIエージェントの問題行動を経験している。アンソロピックのある実験では、エージェントが自身のシャットダウンを阻止するために、幹部の個人メールを探索し、弱みになりそうな事柄を特定し脅迫を行った。憂慮すべきは、これを可能にした能力がいまや企業環境に広く導入されていることだ。
第3の波は、物理世界で動き、感知し、作用するサービスロボットという形のフィジカルAIだ。すでに飲食店、ホテル、病院、小売りで働いている。物理的に動くAIの不具合は、事故、ダウンタイム、診断ミスなど高コストで深刻な結果をもたらしうる。
これらの波によって、CDRは、ITの専門的事項から取締役会レベルの優先事項へと引き上げられた。課題は、被害をもたらす前にAI関連の信頼リスクを検知できるガバナンスをどう構築するかである。
CDRがそれほど重要なら、企業は何を苦労しているのか。簡潔にいえば、正しいことをするには代償を払わなければならないからだ。企業は常に、業績と顧客幸福のトレードオフを判断している。筆者らはこれを「CDR分析」と呼んでいる。分析が著しく困難になっているいま、トレードオフを明確にするために「CDR分析」はある。その中核は4象限フレームワークであり、あらゆるAI関連の意思決定を、業績への影響と顧客幸福への影響という2軸で位置づける。多くの類似フレームワークは記述するだけだが、これは経営陣に抽象的なAI倫理論議をやめさせ、システムごとの選択を迫るものだ。
重要なAIの導入は、すべてこのマトリックスのどこかに位置づけられる。問題は、規制当局から電話が来る前に、あるいは動画が拡散する前に、自主的にこの分析を行うかどうかだ。
