「AIにどう対応するか」
世界はこの戦いに勝つための努力が必要

編集部（以下色文字）：2022年11月にチャットGPTが登場して以来、生成AIは急速に進化し、私たちの生活に欠かせない存在となりつつあります。オズボーン教授は、こうした現在の状況をどのように見ていますか。

オズボーン（以下略）：生成AIの登場は祝福すべきことであると同時に、心配すべきことでもあると考えています。世界はAIにどう対応するかという戦いに参加しているのが現在の状況です。未来は私たちの手にかかっており、その戦いに勝つための努力が必要なのです。

　社会は生成AIを活用するために、さまざまな実験を行っています。たとえば、生成AIをファストファッションに利用できるか、メールの自動化やソフトウェアエンジニアリングを実現できるか、といったことです。これらの実験が成功するかどうかがわかるまでに、数年はかかるでしょう。このような社会の動きは、電気やインターネットなど過去の革新的な技術が生まれた時にも見られました。

　これまでの技術とは異なり、生成AIは人間の本質である「思考力」に非常に近い部分を切り開いています。その潜在的な可能性は不確かでありながら、大きいものでしょう。特に、大規模言語モデル（LLM）は明らかに深い理解を持っています。それらは「確率的オウム」（もっともらしい言語を生成できるものの、言語の意味は理解していないことを表す比喩）とも呼ばれますが、それは不当な評価だと思います。

　しかし、多くの限界があることも事実です。私たちにはよくわからない理由で失敗することも頻繁にあります。たとえば、2023年には「逆転の呪い」（reversal curse）に関する論文［注1］が発表されました。これは、すべての主要なLLMを研究したものです。「トム・クルーズの母親は誰か」と質問すると、どのLLMも「M. L. ファイファー」と正しく答えます。しかし「M. L. ファイファーの息子は誰か」という質問には答えられません。不思議ですよね。人間なら直感的に質問と答えを逆転して考えることができます。そこに深い理解は必要ありません。しかし、すべてのLLMは推論の方向を逆転させる能力をまだ獲得していないようです。

　もちろん、この「故障モード」はいずれ修正されるでしょう。ただ、他にどれほどの故障モードが存在するかはわかりません。LLMは、インターネット上のすべてのデータを用いて訓練されているため、得体の知れないものになっています。構造は非常に難解で、簡単に解釈できるものではありません。