Normform/Getty Images

ビジネスに強化学習を導入する企業が増えてきたが、その使い方を間違えると人々の対立を煽ったり、差別を助長したりする危険性がある。トランプ時代にソーシャルメディアで何が起きたかを思い返せば、そのリスクは明らかだろう。たとえ企業側に悪意がないからといって、問題を引き起こした責任がないとは言えない。本稿では、強化学習が招く予期せぬ結果に対処するために、企業が守るべき5つの原則を紹介する。


　ソーシャルメディアを運営する企業の主張によれば、彼らは単にコミュニティを構築して、世界をつなげようと努めているだけであり、無料を維持するために広告収入を必要としているという。

　しかし、本当に無料なものなどない。ソーシャルメディア企業は閲覧数が多ければ多いほど儲かるため、エンゲージメントの最大化を目指して自社のアルゴリズムを最適化してきた。閲覧数は、アルゴリズムにおける「報酬関数」であり、そのアルゴリズムがプラットフォームで獲得できる閲覧数が多ければ多いほど望ましい。