悪用されるデジタル製品

　アリスは、夫を亡くした3年後にマッチングアプリに登録した。最先端のアルゴリズムを使ったそのアプリは、普段ならけっして接点を持てないような相手と出会えることを売りにしていた。

　じきにアリスは、国内の遠く離れた場所に住むジムという男性とチャットをするようになる。彼もパートナーを亡くしたばかりだったため、夫を亡くしたアリスの悲しみと孤独に共感してくれた。

　2人がアプリでつながってから半年後、ジムは勤め先から解雇された。彼はひどく落ち込んでしまう。借金も抱えることになった。アリスは何とかして彼を励まそうとし、小切手を送ることさえした。

　ところが、小切手が換金されてから数日後、ジムのアカウントが削除されていることにアリスは気づき、呆然とする。警察の捜査の結果、ジムは実在の人物ではなく、詐欺師たちがアリスからお金を騙し取るためにつくり上げた架空の人物であったことが判明した。しかも、被害者は彼女だけではなかった。詐欺師たちは、まさにこのアプリを魅力的で革新的にしている長所──「手軽さ」と「規模の大きさ」を悪用し、騙されやすいユーザーを標的にしていたのである。

　この種の脆弱性を抱えるデジタル製品は、マッチングアプリに限られたものではない。各社がデジタルの付加機能や新規プロダクトの投入を急ぐ中、潜在的なリスクはしばしば見過ごされている。一見すると無害なデジタル製品でさえ、恐ろしい犯罪行為を可能にする予想外の危険をはらんでいる。

　その典型例の一つが、暗号化と匿名性を売りにしたメッセージアプリ「テレグラム」だ。2019年、チョ・ジュビンという韓国人男性がこのテレグラムを利用し、未成年を含む若い女性から個人情報を巧みに聞き出した。それをもとに彼女たちを脅迫し、猥褻な個人動画を送らせ、それらの動画をインターネット上で販売した。2020年、裁判所はチョに懲役40年の判決を言い渡した。

　デジタル製品やプラットフォームの利用が増えるにつれて、それらを提供する企業の間では、開発の最初期段階から安全性を重視する必要があるとの認識が広がっている。安全性を基本機能として重視するプロダクト設計それ自体は、特に目新しいものではない。自動車産業や航空機産業では、プロダクト設計において安全性が優先されている。しかし、一般消費者向けデジタル製品の設計では、目新しさとスピードが重視され──「素早く行動し、破壊せよ」という言葉に象徴されるように──顧客の安心・安全が二の次にされる設計・開発文化を生み出してきた。デジタル製品が個人のつながりや金銭のやり取り、そして最も私的な情報にも深く関与するようになってきた現在、提供する企業側のそうした考え方やプロダクト設計の方法は改める必要がある。

　そこで本稿では、プロダクト開発の新しいモデルを提唱する。筆者らは10年以上にわたり、デジタル製品に関する安全性および消費者行動について研究を重ね、200人を超える専門家にオンラインで安全教育を行い、国連やハーバード・ビジネス・スクール（HBS）などでこのテーマに関する講演や講義をしてきた。