消費者はAIによる失敗をどう受け止めるのか

　2023年10月、ゼネラルモーターズ（GM）の子会社でロボタクシー事業を展開するクルーズが運行する無人の自動運転車（AV）が、サンフランシスコで重大な事故に巻き込まれた。人間が運転する日産車が歩行者をはね、歩行者が自動運転車の進路に投げ出されたのだ。

　第三者の技術コンサルタントによる事故調査によれば、このような状況下では、たとえ慎重な人間のドライバーが自動運転車を手動で操作したとしても、衝突を回避することはできなかったという。しかし、クルーズが当初、規制当局に報告した内容には、歩行者がはねられた後に自動運転車両に巻き込まれて20フィート（約6メートル）引きずられたという事実が記載されていなかった。被害者の女性は重傷を負ったが、一命は取り留めた。

　クルーズに衝突の責任はなかったが、この事故によって同社は危機に陥った。透明性を欠いた報告により、同社は米国運輸省道路交通安全局（NHTSA）から150万ドルの罰金を科せられた。また、米国司法省（DOJ）による刑事捜査も行われ、最終的に50万ドルの罰金を支払うことで決着した。

　しかし、それだけでは終わらなかった。クルーズはサンフランシスコでの運行許可を取り消されたのだ。これにより、従業員の半数が職を失い、CEOは辞任し、企業価値は50％以上下落した。

　自動運転車業界全体に動揺が広がった。数カ月もしないうちに、サンフランシスコでウェイモ（親会社はアルファベット）の自動運転タクシーが暴徒に襲撃されたうえに放火され、NHTSAはウェイモやズークス（親会社はアマゾン・ドットコム）をはじめ、自動運転開発に携わる複数の企業の調査を開始した。2024年末、GMはロボタクシー事業から完全撤退すると発表した。

　自動車からチャットボットまで、あらゆるものにAIが急速に導入されているが、クルーズの事例は厳しい現実を浮き彫りにしている。すなわち、AIはいつか失敗するということだ。

　失敗すれば、自社で独自のAIシステムを構築しているにせよ、他社のAIシステムを導入しているにせよ、多くの企業が世間の厳しい目にさらされることになる。AI導入を加速させるためのマーケティングに関する文献は数多くあるが、いずれは避けられない失敗に備えるAIのマーケティング方法については、あまり関心が向けられていない。

　筆者は過去7年間にわたり、AIが失敗する危険性について、マーケティングの観点から7つの研究を行ってきた。その結果、消費者がAIの犯した失敗をどう受け止め、どう反応するかについて洞察を得ることができた。賢明なマーケティング担当者は、何かしらの失敗が起きる前と後での消費者の態度に関わる5つの落とし穴を考慮する必要がある。

　本稿では、企業がAIによる失敗にどう備え、実際に失敗が起きた際には何をすべきかを論じる。また、企業が自社のAIをマーケティングする方法、およびその戦術によってリスクが生じる可能性について検討する。さらに、実際にAIが引き起こした問題に対処した企業の事例を紹介するとともに、ブランドを守り、消費者の信頼を高めながら、自社のAIシステムのプロモーションを目指すマネジャーに向けた実践的なアドバイスを提供していく。