AIと人間の価値観の整合性が取れているか

　2023年3月、オープンAIはGPT-4を公開した。同社は発表の場で、GPT-4は、正解率、推論能力、各種テストスコア──いずれもAI（人工知能）の性能評価でかねてから用いられてきた指標──について、すでに極めて高い評価を得ていた従来のGPTモデルを超えたと謳った。

　しかし、最も衝撃的だったのは、オープンAIがGPT-4の特徴として「整合性の向上」を挙げたことだ。AI関連の製品・サービスを宣伝する際、人間の価値観との整合性がセールスポイントとして掲げられたのは、おそらく初めてのことだ。

　テクノロジーには何らかの倫理的なガードレールの設置が必要である。このような考え方は、けっして新しいものではない。サイバネティックスの提唱者であるノーバート・ウィーナーは、『サイエンス』誌に掲載された1960年の論文の中で同様の考えを述べている。ウィーナーはその論文で、自動化されたツールに制作者の価値観が組み込まれていることを示す研究に特化した学問分野の創出を提唱し、大きな反響を呼んだ。