生成AIの「品質」と「倫理」を両立させる方法
Hector Roqueta Rivero/Getty Images
サマリー：生成AIの社会実装が進む中で、技術の実用性とリスクをどう評価するかが問われている。企業はAIを一括りに扱うのではなく、用途や利用状況など文脈ごとに異なるリスクを見極め、適切な安全措置を講じる必要がある。AI...　もっと見るの信頼性を高めるには、継続的なテスト、多様なフィードバック、明確な倫理的枠組みが欠かせない。本稿では、こうした文脈重視のリスク評価を実践するアドビの取り組みを紹介し、責任あるAI活用のあり方を探る。　閉じる

正確なリスク評価と安全措置を策定へ

　生成AIのリスクに関する懸念が根強く残る一方で、AIの威力と日常生活での実用的な用途を人々はますます受け入れつつある。だが根底にある技術は共通であるにもかかわらず、AIの用途は日常的なものから複雑なものまで多岐にわたる。このユースケースの幅広さは、責任あるAIイノベーションを支えるためにどのようなガードレールが適切なのかをめぐる判断を難しくさせる。

　この判断を効果的に行うには、AIが機能するコンテクストをリーダーが慎重に考慮することが不可欠である。つまり、実世界でのユースケースにおけるAI技術の具体的な状況、環境、用途を理解しなければならない。AIは入力と出力を通じて評価されることが多いが、それでは実態の一部しか把握できない。企業はコンテクストに即した分析を優先することで、さまざまなシナリオとユースケースにわたるリスクの想定と軽減につながる安全措置を策定できるのだ。

　企業はAIを単一の存在として見ることから脱却し、個別のコンテクストにおける影響を評価する必要がある。以下は、コンテクストに基づく倫理審査のプロセスを体系化するに当たって考慮すべき4つの原則である。このプロセスを通じて、より正確なリスク評価と、実世界でのユースケースに沿った安全措置の確立が可能になる。

人間の関与は不可欠

　AIの用途の違いによって、影響の度合いもさまざまに異なる。同じ大規模言語モデル（LLM）が魅力的な旅行を提案することもあれば、重要な医療情報を捏造することもありうる。だが人生を左右するほどの結果をもたらすのは後者だけだ。これらのLLMには技術的な共通点があるかもしれないが、そのリスクは使う人によって著しく異なる。

　そしてエージェント型AIの台頭に伴い、リーダーはユースケースの評価方法に関して常に臨機応変であらねばならない。デロイトによれば、生成AIを使う企業の半数は2027年までにエージェント型AIの試験運用を始めるという。これらのAIはスマートアシスタントとして働くことができ、人間による監視が最小限でも複雑なタスクを実行できる。

　自律性の向上によって、AIエージェントは業務を効率化したり、顧客とのやり取りを強化したりできるかもしれない。しかし人間による適切な監視がなければ、深刻な過ちを招く可能性もある。エージェント型AIを実装する際には、ユーザーの知らないうちにAIエージェントが代わりに行動することがないよう、人間による監視が不可欠となる。

　アドビでは、AI機能を評価するに当たって「影響度が低いか高いか」で分類し、最も高リスクの領域を優先して慎重に審査する。AIのリスクには幅があるが、この区別によって、害が最も深刻となる部分に焦点を当てやすくなる。

　たとえば、フォントのスタイルを推奨するAIモデルに伴うマイナス面は小さく、最悪の場合でもお粗末な提案をする程度だ。しかしテキストから画像を生成するモデルは、格段に幅広く予測不可能な影響を伴う。

　リーダーはAIのガバナンスに高リスク・低リスクの分析を用いることで、AIが進化していく中でも人間による監視が重要な安全措置として維持されるよう万全を期すことができる。焦点を絞ったこのアプローチによって、組織はイノベーションを継続的に促進しつつ、重大なリスクを軽減することが可能になる。

「派手な宣伝」と「品質」は別物

　AI競争では、信頼性と正確性を確保して害を軽減することよりも、製品を矢継ぎ早に送り出すことのほうが優先されがちだ。派手なAIデモは見栄えがよいかもしれないが、厳密なテストを経ていなければ実世界での有用性を欠き、実害を引き起こす可能性さえある。

　イノベーションは、品質や視点においてけっして妥協してはならない。AI開発の初期段階から多様な視点を取り込み、技術を継続的にテストすることが、実世界のコンテクストで想定通りに使われるよう万全を期すことにつながる。

　企業がベータテストに投資するのには理由がある。社内テストのみでは、ユーザーがAIとどのように関わり合うのかを完全には予測しきれないからだ。実世界でのフィードバックは、想定外の行動を特定して信頼性を高めるために不可欠だ。グローバル企業や、自社の技術をグローバル化したい企業は、幅広いシナリオと文化的ユースケースを考慮するために、その技術を試して使う人々の層を拡大しなければならない。

　例として、我々はクリエイティブな生成AIモデルのファミリーであるアドビ・ファイアフライの開発初期に、テキストから画像を生成するモデルが「骸骨」（skeleton）という言葉からコンテンツを生成することに制限をかけていた。有害または不快となりうるアウトプットを予防するための措置である。

　ところがユーザーのフィードバックを通じて、我々はこの制限が無害で日常的なユースケース、たとえばハロウィーンに向けた骸骨の画像の生成などもブロックしていることに気づいた。実世界からの意見がなければ、クリエイティブな表現と貴重な技術用途を意図せず制限してしまっていたかもしれない。

　AIのガードレールに万能のものはなく、柔軟性が求められる。あるコンテクストにおいて必要なことは、別のコンテクストにおいては厳しすぎるかもしれない。多様なユーザーからの継続的なフィードバックは、安全措置の有効性と妥当性を担保する助けになる。

AIは常に進化するが、企業は懸念事項を予測できる

　より安全なAIモデルは必然的によりよい結果をもたらす、というのはありがちな誤解だ。現実には、完全に安全なAIなど存在しない。安全を企図してモデルを設計することはできるが、それでも意図せぬ害が生じる可能性はある。

　AIを将来にわたって有効に機能させるためには、有害なアウトプットを防ぐだけでは十分ではない。長期にわたり実効性があり、倫理的で、法的に適正であり続けるAIの構築が求められる。AI企業はいまでは著作権の訴訟に直面しており、使用許可を得ていないデータでモデルに学習させることのリスクが浮き彫りになっている。企業が安定的な土台を欠いたまま自社の製品にAIを組み込めば、高くつく法廷闘争や、モデルに再学習させる労力を強いられる可能性があり、自社のサービスからその技術を完全に削除せざるをえないリスクさえある。

　モデルの学習用データについて理解することは、限界と潜在的リスクを見極めるために不可欠だ。アドビ・ファイアフライの生成AIモデルは、ライセンス取得済みのアドビストックの素材やパブリックドメインの素材を含め、アドビが使用許可を得ているコンテンツのみで学習しているため、安全に商用利用でき、知的財産（IP）に配慮されている。ただし、これは我々がリスクを厳密に検証しないという意味ではなく、検証は続けている。ガードレールと安全メカニズムは、コンテクストを意識し、モデルの学習用データに合わせて調整しなければならない。

　リーダーは問題に事後的に対処するのではなく、AI開発の初期段階に法的および倫理的リスク評価を組み込むことで、能動的なアプローチを取るべきだ。企業は実世界のシナリオでモデルを厳密にテストし、変化するリスクに安全措置を適応させていくことで、現在の基準を満たすだけでなく、将来の課題に対しても強靱であり続けるAIを生み出せる。

AIには堅牢な倫理的枠組みが必要

　責任あるイノベーションは、強固な倫理的基盤から始まる。AIは複雑だが、技術を審査するプロセスは明確かつ実行可能でなければならない。AIの審査とガバナンスの枠組みを効果的なものにするためには、リーダーがビジョンを策定し、AI戦略を自社の価値観に整合させる必要がある。

　アドビの経営陣は6年前、責任あるAI開発に向けた取り組みの基盤として、説明責任、社会的責任、透明性から成るAI倫理の原則を確立するために、部門横断的なグループを招集した。このグループから、アドビのAIイノベーション全体に一貫してこれらの原則を適用すべく設計された「AI倫理影響評価」が生まれた。

　この評価は、顧客に提供する新しいAI機能について考慮すべき重要事項を検証する。誰がどのように使うのか、AIモデルの安全性、信頼性、社会的ニーズとの整合性をどのような安全措置によって担保するのか、想定内および想定外の害はどのように評価され軽減されるのか、などである。

　評価の有効性を確保するために、最初に製品チームで試験的に運用し、彼らのフィードバックをもとに、質問が実践的で適切かつ実行可能になるよう改良したうえで、全社的に拡大した。AI倫理影響評価を既存のワークフローに組み込むことで、製品開発プロセスへのシームレスな導入が実現した。

　イノベーションと責任を必ずセットにするためにも、AI倫理チームは不可欠だ。リーダーは、このチームが製品チームと深く関わり、潜在的な害を特定して軽減するための能動的なリスク発見演習を実施できるよう権限を与えて後押しすべきである。このアプローチを通じて、アドビのAI倫理チームは新しいAI機能の仕組みだけでなく、想定されるユースケースとターゲット層についても基礎的な理解を固め、アドビは厳密な実地テストを通じて実世界でのリスクを特定することができている。

　新機能のリリース後も経営陣が後押しをすることで、AI倫理チームは継続的なテスト、バイアスの軽減、使い勝手の向上において重要な役割を果たすことができる。ただし、倫理的なAI開発はこの一つのチームのみに頼ってはならず、会社全体で共通の責務とすべきだ。リーダーはこの取り組みを推進し、最先端かつ責任あるAIが維持されるよう努めなければならない。

＊　＊　＊

　AI倫理は、硬直的で画一的なアプローチに依存してはならない。責任あるAIの開発と実装に求められるのは、コンテクストの理解、影響の評価、取り組み方の継続的な改善だ。繊細でコンテクストに基づく倫理的枠組みによって、イノベーションを促進しながらも、AIの責任ある実装を徹底することができる。

　加えて、多様な視点を取り入れることは、AIと社会的ニーズとの整合性を維持し、さまざまな業界や用途における潜在的な害を最小限に抑える一助となる。AIシステムをコンテクストの中で評価することが、課題に対処しながら進歩と効率向上を推進する最も効果的な方法だ。このことをすべての関係者が認識する時に、業界、政府およびユーザーはAIから最大の恩恵を受けることになる。

　この焦点を欠いたままでは、AIは実世界のニーズとかけ離れ、害を減らすどころか増幅させるおそれがある。コンテクストに基づく倫理を優先することで、AIは革新的なだけでなく、頼りがいがあり、責任を果たし、最終的に信頼できる存在であり続けるのだ。


"Inside Adobe's Approach to Assessing AI Risk," HBR.org, May 09, 2025.