生成AIがAIコンテンツから学習することの弊害を理解しているか
PhonlamaiPhoto/Getty Images
サマリー：生成AI（人工知能）が、AIによって生成されたコンテンツから学習すると、いわゆる「モデル崩壊」や「モデル自食症」が発生し、AIのエコーチェンバー現象やAIモデルの品質低下を招く危険がある。生成AIの健全な発展に...　もっと見るは、人間の現実世界におけるデータを定期的に組み込むことが必要だ。本稿では、AIがもたらす懸念を退け、人が生み出すコンテンツの価値を高めるためのアプローチを紹介する。　閉じる

AI生成コンテンツをAI学習に使用する問題点

　生成AI（人工知能）は衰退に向かっているのかもしれない。生成AIツールの普及が急速に進み、チャットGPTはティックトックとワッツアップをもしのぐ勢いで成長してきた。これを踏まえれば、衰退など非現実的で、ばかばかしいとさえ思えるかもしれない。結局のところ、投資家から大手テック企業、主要広告企業、パブリッシャーまでを含め、誰もがこぞって迫り来るAI主導の時代に向けて足掛かりを築こうと努力しているように見える。

　だが、この爆発的な人気そのものが、衰退の始まりを意味するとしたらどうだろうか。

　生成AIの台頭は、インターネット上に合成コンテンツをあふれさせる危険がある。実際に、これはすでに起きている。本記事公開の時点（原文公開は2023年11月8日）で、ニュースサイトの評価を行うニュースガードは、AIで生成されたニュース・情報サイトを537件特定している。