AIツール活用でデータ流出以上に警戒すべきリスク
Tim Robberts/Getty Images
サマリー:生成AIの業務利用が進む中、厳格なデータ保護契約を結ぶ企業ですら競争優位を失うリスクが浮上している。背景には、データではなく問題解決の思考様式(ロジック)がAIに学習され競合へ還元される「AI版シャーロッキング」が存在する。本稿では、知見が流出する3つのパターンを解き明かし、マネジャーが採るべき対策とともに提示する。

AI活用でデータ流出より心配すべきリスク

 AIに関して企業の法務担当者たちが長年にわたって頭を悩ませてきたのは、自社のデータが誰かの手に渡り、AIの訓練に用いられることはないか、ということだった。ほとんどの企業は、この問題を解決できたと思っている。社員が入力したプロンプトをもとにAIプロバイダーがAIを訓練することを禁じる契約を結んでいるからだ。

 しかし、企業が心配すべきことはこれだけではない。データよりもっと重要なものを失うリスクが現実化しているのだ。その重要なものとは、ロジックだ。その会社が苦労して獲得した問題解決の具体的な方法論が社外に流出しかねない。

 そうした現象は、「AI版シャーロッキング」とでも呼べばよいだろう。このようなことがいままでまったく起きていなかったわけではないが、手法がこれまで以上に高度になってきている。この問題は、厳格なデータ保護の契約を結んでいる企業でも起きうるものだ。

 2000年代前半、アップルが「シャーロック」という検索ツールの新しいバージョンをリリースしたことがあった。その際、アップルは、「ワトソン」というマック用の有料アドオンアプリの機能をほぼそのままコピーして取り込んだ。その結果、ワトソンはそれこそ一夜にして市場での需要がなくなり、開発企業は大打撃を被った。

 この出来事があって以来、小規模な企業が自社の最良のアイデアを大手のプラットフォームに吸い上げられて窮地に追いやられる現象は、「シャーロッキング」と呼ばれるようになった。

 AI版シャーロッキングは、これとはプロセスがやや異なる面もあるが、最終的に起きることはよく似ている。本稿では、近年の企業を取り巻くAI関連のセキュリティ事象、大手AIプロバイダーの契約書の文面、そしていわゆる企業内の「シャドーAI」の実態に関する最新データをもとに、このような現象が起きる3つのパターンを明らかにし、それぞれのパターンに関してリーダーが採るべき対策を示す。

「AI版シャーロッキング」はどのように起きるのか

 旧来のシャーロッキングでは、ボタンやスクリーンといった、目に見える機能がコピーされる。それに対し、AI版シャーロッキングでコピーされる要素は、目に見えない。その要素とは、質の高い回答を生み出す「推論」の仕方である。

 ところが、ほとんどの企業幹部は状況を半分しか理解していない。今日の標準的な法人向けAI契約では、AIプロバイダーがAIの訓練のためにインプットとアウトプット(AIを利用する企業のエンジニアが入力したプロンプトと、AIツールが示した回答)を利用することを禁じている。この点が進歩であることは間違いない。実際、法務専門家もチェックの際にはたいてい、こうした規定の有無に目を光らせる。

 問題は、このような措置ではすべてを守れないということだ。そうした抜け穴を通じて、その会社の競争上の強みが社外に漏れてしまうのだ。

 企業のシニアエンジニアがAIツールを活用して、難しいコードのバグを取り除いたり、企業の研究員がAIツールを頼りに、科学的な問題を解決したりする場面を考えてみよう。このようなケースでAIツールが示す回答は、AIの能力だけで生み出されるわけではない。AIが持っている一般的な能力と、その会社のエンジニアや研究員が持っている具体的な専門知識が組み合わされることにより、問題解決に向けて一歩ずつ近づいていくのだ。