責任をめぐる課題

　では、フェイスブックは問題にどう対処すべきなのか。そして私たち社会は、この問題に関してフェイスブックにどの程度の責任を――世論の圧力や規制政策やその他の方法で――課すことが実際にできるのだろうか。

　この問いに答えを出すために、「ユーザー由来のつながり」と「アルゴリズム由来のつながり」を促進するフェイスブックの役割について考えてみよう。

　ユーザー由来のつながりは、同社のプラットフォームが初期に促進していた、参加者同士の直接的な交流だ。フェイスブックがハーバード大学の学部生たちの名簿として立ち上げられた頃は、ユーザーはほかの学生全員をスクロールして、コンテンツを見たい少数の相手を選んでつながることができた。ユーザー由来のつながりのみで構成されるフェイスブックは、かなりローカルなつながりに限られ、直接的ネットワーク効果が強かった。

　ところが、プラットフォームが拡大するにつれ、ユーザーは自分にとって有益なつながりを精選して見つけるのが、ますます難しくなっていく。つながりの効果的な生成を継続できるよう、フェイスブックはアルゴリズム由来のつながりを導入した。このレコメンデーションエンジンは、ユーザーからプラットフォームに与えられるデータを基に、新たな友達とグループを提案し、ニュースフィードと検索結果に情報を追加する。

　グローバルなつながりの形成を可能にし、間接的ネットワーク効果を生みながら、ユーザーに望み通りの――そして最も強く関わりたいであろう――つながりをもたらすには、この押しつけがましいやり方が不可欠なのだ。

　●なぜ区別が重要なのか

　ユーザー由来のつながりがもたらす問題と、フェイスブックが主導するアルゴリズム由来のつながりがもたらす問題を区別することで、何に対してフェイスブックに責任を課すのが妥当なのかが見えてくる。残念ながら、そこから簡単な解決策が見出せるわけではない。

　フェイスブックが押しつけがましいやり方でつながりを促進する状況については、当然ながらある程度の責任を求めるべきだ。たとえそれが同社のミッションに不利に作用しても、である。

　たとえば、扇動的な参加者やコンテンツとのつながりを強く望む人々がいることを、データが示している。だからといって、フェイスブックが筆者の関心をその種のコンテンツに向けさせることは正当化されない。当人が探そうとしないであろう新たなコンテンツは当人に見せない、という選択は比較的シンプルでわかりやすい。

　一方、あるユーザーが実際に望むつながりが、当人の行動データから判明した場合、レコメンデーションエンジンはそのつながりを推奨すべきなのか。この点を考えると、責任の所在はわかりにくくなる。

　フェイスブックのミッションは、同社が意図的にそうしたつながりを促進すべきであることを示唆している。だが、それらのつながりはユーザーの振る舞いと世界観を強化しうる。

　軽度の政治的偏向を持つユーザーが、国政に関するコンテンツを読みたいという興味を示した場合、フェイスブックは極端なものや危険なものを避けながら政治コンテンツを推奨することが、どこまでできるだろうか。

　たしかに同社は、この種の推奨方法に制限をかけることができる。個々のユーザーが自分自身では責任を負えないという事実だけでも、そうする理由になる。とはいえ、どこに同社が一線を引くべきかは明確ではない。

　一方、ユーザーがみずからつながりを築く場合、明確な責任の所在はわからなくなる。問題をはらむユーザー由来のつながりに対処するには、フェイスブックは最終的にコンテンツを検閲し、問題ありと見なされるコンテンツを作成するユーザーをアクセス禁止にする必要がある。

　そこにはいくつかの明確な一線が存在し、暴力的な活動を明示的に計画するようなものは当然ながら禁じるべきだ。とはいえ、潜在的に有害なコンテンツのほとんどは、広大なグレーゾーンに該当する。

　反ワクチンのコンテンツという、濃いグレーゾーンを考えてみよう。明らかな偽情報については検閲するようフェイスブックに求めるとして、もっと微妙な、ワクチンの副作用をエビデンスに基づいて説明するコンテンツに関してはどうすべきだろうか。

　フェイスブックはそのコンテンツの推奨を控えるようアルゴリズムを調整できるが、ユーザーがみずからそのコンテンツを探そうとする場合、それをフェイスブックは検閲できるのだろうか。あるいは検閲すべきなのか。私たちはそれを望むだろうか。

　これこそ、フェイスブックを最も悩ませている部分である。同社はコンテンツの検閲方法について、再三にわたり一貫性と透明性を欠いてきた。ザッカーバーグは半独立の監視委員会に責任を委ねようと試みているが、批判者らの指摘によれば、フェイスブックは委員会に対し、その仕事を包括的かつ効果的に遂行するためのリソースと権限を意図的に与えていないという。

　しかし、こうした回避的な姿勢は、SNS自体に内在する責任をめぐる課題から生じている。たしかに私たちは、フェイスブックが強引につながりを築こうとする行為に対しては、同社に責任を負わせることができる。しかし、私たち自身が労力を割いてつながろうとする行為に対しては、フェイスブックに責任を課すことはできるのだろうか。

　そして、人々をつなげるというミッションに尽力するフェイスブックは、ユーザーが心から欲するつながりに関しては――そのつながりをフェイスブックがもたらすのであれ、ユーザー自身が見つけるのであれ――責任を負いたくないのは明らかだ。