技術進歩に伴うイノベーションは、社会にさまざまな恩恵をもたらす一方、想定外の悪影響を生むこともある。SNSが誕生した時、それが連邦議事堂占拠事件という悲劇の引き金になることを予測できた人はいないだろう。自分たちが意図していなかったからとはいえ、起業家や投資家はこの問題に目をつぶってよいのだろうか。筆者らは、想定外の結果にも責任を持つべきだと主張する。予測困難なトラブルを防ぐうえで、事前に何をすべきなのか。また、問題が起きてしまったら、どう対処すべきなのだろうか。
21世紀に入って、数々の目を見張るようなイノベーションが実現してきた。その一方で、野放しのテクノロジーが想定外のダメージを生み出してきたことも否定できない。
たとえば、マーク・ザッカーバーグがフェイスブックを立ち上げた時、自社のサービスが悪用されたり、政治的介入の道具として使われたりすることを意図していたわけではなかった。
ところが、「情報共有がしやすく、よりオープンでつながった世界をつくる力を人々に持たせる」ことを目的につくられたはずのプラットフォームは、「素早く動き、破壊せよ」というキャッチフレーズの下、想定外の壊滅的な結果を生み出してしまった。2021年1月6日に起きた連邦議事堂占拠事件は、その一つの例だ。
テクノロジーの進歩が想定外の結果を引き起こすのは、21世紀に始まったことではない。1930年代にはすでに、社会学者のロバート・マートンが、さまざまな想定外の結果を3つに分類して考えることを提案している（思いがけない恩恵、逆効果、想定外の弊害の3種類）。
実際、これまでの歴史でも、産業革命や異性化糖の発明など、テクノロジーの大きな前進が社会に永続的な悪影響（産業革命は大気汚染、異性化糖の発明は糖尿病）をもたらしたケースはあった。
しかし、今日の新しいテクノロジーが生み出す悪影響は、これまでになく大きくなっている。悪影響が拡大するペースが昔よりも劇的に加速しているからだ。
いわゆる「ムーアの法則」と「メトカーフの法則」により、テクノロジーの能力が飛躍的なペースで増大し、テクノロジー産業は大きな恩恵を受けた。その一方で、想定外の悪影響が増大することにより、業界に大きなダメージも及んでいるのだ。
このような想定外の結果は、避けられないものなのだろうか。言い換えれば、それは、人類の進歩に必然的について回る代償として受け入れなくてはならないのか。それとも、弊害を前もって予測し、悪影響を緩和することが可能なのか。
「想定外」のものである以上、どんなに努力しても、それを予測することはできない。人が未来を予測する能力には、おのずと限界がある。そのため、前もって講じることのできる対策は、あまりないのかもしれない。
その結果、功利主義的な判断をするほかないようにも思える。要するに、テクノロジーがもたらす恩恵（想定されている恩恵と想定外の恩恵）が弊害よりも大きいことを願う、というアプローチだ。
実際、グーグルのテクノロジーが生み出した想定外の問題、たとえば検索結果の表示にバイアスがかかっていることに当惑することこそあっても、手軽に世界中の情報にアクセスする手立てを捨てようと思う人はいないだろう。
この種の功利主義的な損得計算は実利上の魅力があるが、この考え方自体がまた新たな想定外の結果を生み出す。起業家と投資家が責任を問われなくなるのだ。
有害な結果が発生したとしても、それを意図したわけではないのなら、どうして責任を問われなくてはならないのか、という発想になりがちだからである。その会社のビジネスが社会に多くの恩恵をもたらしている場合は、とりわけそのよう発想になりやすいだろう。
その点、筆者らの考え方は違う。難しいことではあるが、起業家と投資家は、自社のビジネスが生む想定外の結果にも責任を持つべきだ。本稿執筆者の一人であるタネジャが以前指摘したように、自社のビジネスによる想定内と想定外の結果に対する企業の考え方を変えるうえでは、創業者の思考様式がきわめて大きな意味を持つ。
ここで重要なのは、創業者がこの難しい課題に向き合う意思をしっかり持ち、自分の周囲に多様な考え方の人々を集めて、みずからの思考の死角を埋め合わせること。それができていなければ、その会社はおそらく、自社の製品やサービスが社会にどのような影響を及ぼす可能性があるかを理解できず、適切な対策を講じることができないだろう。
