機械が創造性を独占する

　第2のシナリオは、不公平なアルゴリズム競争と不適切なガバナンスにより、人間の純粋な創造性が奪われるというものだ。人間のライターやプロデューサー、クリエイターは、アルゴリズムによって生成されたコンテンツの洪水に押し流され、才能あるクリエイターでさえも、市場から撤退してしまうおそれがある。それは私たちに重要な問いを突きつける。つまり、新しいアイデアはどのように生み出されるようになるのか、という問いだ。

　このシナリオのごく初期段階は、すでに現実になっている可能性がある。たとえば最近、著名な生成AIプラットフォームに対して、大規模な著作権侵害訴訟が起こされた。この問題をいちだんと緊張をはらんだものにしているのは、AI分野の技術進歩のスピードに知的財産権法が追いついていないことだ。技術革新のインセンティブと、純粋な人間の創作活動に対するインセンティブのバランスをどのように取るかをめぐり、各国政府が数十年がかりの争いを繰り広げる可能性が十分にある。それは人間の創造性の大きな喪失につながるだろう。

　このシナリオでは、生成AIはクリエイターのインセンティブ構造を大きく変え、企業と社会のリスクを高める。安価につくられた生成AIが、人間による本物のコンテンツの価格を低下させることになれば、人間がつくる新しいアートやコンテンツがどんどん減って、イノベーションの速度が落ちる危険性がある。

　クリエイターたちはすでに、人間から注目を集める期間をめぐり激しい競争を繰り広げている。この種の競争とプレッシャーは、オンデマンドで無限にコンテンツが得られるようになれば、ますます高まるだろう。これまでのデジタル・ディスラプション（破壊）をはるかに超える極端なコンテンツの氾濫は、世の中をノイズであふれさせ、その大洪水を管理する新しいテクニックや戦略が必要になる。

　このシナリオは、コンテンツ制作のあり方にも根本から変化をもたらす可能性もある。制作コストがほとんどかからなくなれば、極端なパーソナライゼーションとバージョニングにより、これまではあまり包含対象になってこなかった人々にもリーチできる可能性が高まるだろう。

　事実、生成AIは、特定の消費者をもっと代弁するコンテンツを制作するニーズを満たす非常に大きな可能性を秘めているため、パーソナライズ化の圧力が急速に高まることが予想される。たとえば、バズフィードは2023年1月、オープンAIが提供するAIツールを使って、読者が独自のクイズや恋愛小説をつくれるページを提供すると発表した。ただし、報道部門で生成AIを使う予定はないという。

　高度にパーソナライズされた経験を提供する方法が普及すれば、同じ映画を見たり、同じ本を読んだり、同じニュースを消費したりといった共有経験が失われる危険がある。また、本物の人間が制作したコンテンツの割合が減って、平均的なコンテンツの質が低下すると、政治的な分断をもたらすコンテンツが蔓延したり、大量の誤情報・偽情報が広がりやすくなるだろう。そのどちらも、ユーザーが見たいものばかりが優先的に表示され、観点に合わない情報から隔離される「フィルターバブル」を悪化させる可能性がある。

　しかし、このようにディストピア的に見えるエコシステムでも、人間が既存のコンテンツを推薦する役割は引き続き重要であり続ける。音楽ストリーミング配信などのような非常に大規模なコンテンツ市場では、検索コストが上昇して、創作活動に対してキュレーションの価値が高まるだろう。だが、検索コストが上昇すると、新しいアーティストを取り込むよりも、既存のアーティストを引き止める努力が優先されて、市場の集中と分裂が起こる。一握りの既存アーティストが市場を支配し、ロングテールのクリエイターが最小限の市場シェアを握ることになる。

「人間製」にプレミアムがつく

　第3のシナリオは、アルゴリズムで生成されたコンテンツに対する大きな反動「テックラッシュ」が燃え上がるというものだ。合成されたクリエイティブコンテンツが世の中にあふれ返れば、本物の創造性が再評価されて、それにプレミアムが払われるようになることは十分考えられる。

　生成モデルは、目を見張るような新しい能力を示すこともあるが、正確性に問題があり、もっともらしく聞こえるものの、事実誤認や間違ったロジックだらけの文章を頻繁に生み出すだろう。当然ながら、人間はコンテンツ提供者に対して、より高い正確性を要求して、機械が生成した情報よりも、信頼できる人間の情報源を頼りにするようになるかもしれない。

　このシナリオでは、人間はアルゴリズムに対して競争優位を維持する。人間の創造性のユニークさ（国境や時代を超えた社会的・文化的コンテクストへの認識を含む）が、重要な威力を持つようになる。文化が変化するスピードは、生成アルゴリズムの学習スピードよりもずっと速いため、人間はアルゴリズムには勝てないダイナミズムを維持する。実際、アルゴリズムの能力が徐々に高まっても、人間は創造性を飛躍的に高める能力を持ち続ける可能性が高い。

　このシナリオが展開していくと、ネガティブなリスクに対処するために、情報空間のガバナンスを強化する政治的リーダーシップが必要になるだろう。たとえば、情報プラットフォームに虚偽コンテンツや誤解を招くコンテンツがあふれれば、コンテンツモデレーションの必要性が爆発的に高まることが予想される。そうなれば、人間の介入と慎重に設計されたガバナンスの枠組みが必要になるだろう。