AIエージェントにコントロールされないための4つの視点
Illustration by Barbara Gibson
サマリー：個人向けAIエージェント（ユーザーの代理として自律的に行動するAI）が、スケジュール管理や情報収集、購買行動の最適化など、日常の業務を効率化する存在として急速に現実のものとなりつつある。しかしその普及に伴...　もっと見るい、ハッキング、誤情報、有償プロモーションによる操作、さらにはユーザーと開発者・スポンサー間での忠誠心の分断といった、信頼性や責任の所在をめぐる新たなリスクが浮上している。本稿では、こうしたリスクを回避し、AIエージェントを信頼できる存在とするための法律、仕組み、技術の整備を提案する。　閉じる

AIエージェントは信頼できるのか

　エージェント型AIは、AI開発における最も活発な分野の一つとして急速に発展している。AIエージェントとは、大規模言語モデル（LLM）の上に構築された追加のソフトウェア層であり、特定の目標に向かって作業を進めることができる。このソフトウェア層は、データの収集、意思決定、行動の実行、結果に応じた行動の適応を行うことができる。エージェントは他のシステムと相互作用し、推論を行い、ユーザーが設定した優先順位やルールに従って動作することができる。

　たとえば、セールスフォースなどの企業は、さまざまな業界やアプリケーションにおいて、顧客からの問い合わせを自律的に処理し、人間の介入が必要な時を認識できるAIエージェントをすでに導入している。

　しかし、エージェント型AIにとって最も魅力的な未来は、個人向けのAIエージェントにある。これらのエージェントは、ユーザーの代理として自律的に行動することができる。ユーザーのパーソナルアシスタントとして、スケジュールの管理、指示された調査や分析、商品やサービスの検索・交渉・購入、コンテンツのキュレーション、基本的なコミュニケーションの代行などを担い、その過程でみずから学習し最適化していく。

　個人向けAIエージェントという概念は何十年も前から存在していたが、ようやく技術が本格的な実用段階に達した。すでに主要企業は、顧客、サプライヤー、その他のステークホルダーに対してプロトタイプの個人向けAIエージェントを提供しており、ビジネスおよび技術の両面において課題が浮上している。

　核心的な問いは次の通りである。AIエージェントは、私たちの最善の利益のために行動すると信頼できるのか。彼らは私たちのためだけに働くのか、それともユーザー、開発者、広告主、サービス提供者の間で忠誠が分かれるのか。そして、そのことを私たちはどのように確認すればよいのか。

　これらの問いへの答えは、ユーザーが個人向けAIエージェントを受け入れるかどうか、またどのくらいそれを迅速に受け入れるかを左右し、さらにその広範な導入がビジネス関係やブランド価値を高めるのか、それとも損なうのかを決定づけることになる。

起こりうる問題

　個人向けAIエージェントを、従業員や請負業者、あるいは現実世界のエージェントとして雇う人物になぞらえて考えてみてほしい。何らかの責任を委ねる前に、その人物や企業が信頼でき、誠実で、有能であり、かつ法律上、依頼者の利益を守る義務があるかどうかを確認する必要がある。たとえば、人間のエージェントに財務上の資源などを任せる場合、通常は身元調査を行い、保険に加入させ、場合によっては保証金の差し入れを求めることになる。