先月、ブルックリンでデザイン事務所を主宰している友人たちと共同で、自動運転車の到来に備えた新しい都市デザインのアイデアを募集するコンペに応募した。もともとは彼らだけで応募するつもりだったらしいが、自動運転車の技術的な側面のことがまったくわからないので、その辺の話に詳しそうな僕に声をかけたということらしい。二つ返事でokしたものの、そもそも僕は車の免許すら持っていない人間だ。自動運転車のことなんて詳しくは知らなかった。結局、みんなで付け焼き刃ながらあれこれ勉強して、なんとか締め切りまでに案をまとめて提出することができた。あと数週間で一次審査の結果が出るらしく、もし通れば次はニューヨークでプレゼン審査に挑むことになる。仮にだめだったとしても、このコンペを通して自動運転車という旬のトピックについて勉強できたことは大きな収穫だった。
自動運転車について調べていく過程で、最新の画像処理技術など、いろいろな面白い研究例について知ることができた。中でも僕が興味深いと思ったのは、主に倫理学の研究者によって行われている、自動運転車の道徳的規範についての研究だ。当然だが自動運転車は機械なので、その挙動はあらかじめ組み込まれたプログラムに従う。仮に、自動運転車が街を走っていて、目の前に若者と老人が飛び出してきたとする。たとえ急旋回しても、若者か老人のどちらか一人しか助からない。どちらを助けるべきだろうか？有名なトロッコ問題を彷彿とさせる、命の選択を迫られるような場面において自動運転車がどのような判断を下すべきか、前もってプログラムに記述しておかなくてはならない。そして研究者たちが主張するには、その判断基準は技術者の独断ではなく、開かれた議論を通して決められなくてはならない。公道における車の挙動は、公的な関心事であるからだ。
MITメディアラボのスケーラブル・コオペレーション・グループが昨年、モラル・マシンという名のウェブサイトを立ち上げた。サイトにアクセスすると、上で挙げたような倫理的なジレンマをはらんだシナリオが次々と提示され、それぞれに対して自動運転車が取るべき行動を二つの選択肢から選ぶように求められる。自動運転車の適切な挙動について人々の考えを広く集めることを目的とした、一種のクラウドソーシング・サイトだ。
こうした試みを面白いと思っていたら、（掃除ロボットRoombaで有名な）iRobot社の創業者である元MIT教授のロドニー・ブルックスが、痛烈な批判をしていることを知った。
彼はまず、人が車を運転しているとき、このような命の選択を迫られる場面に出くわすことがどれだけあるだろうか、と問いかける。運転中に突然ブレーキが効かなくなった。このまま真っ直ぐ進めば3人の幼児を轢くことになり、ハンドルを切れば5人の大人を轢くことになる。さてどうするべきか。ほとんどの人は、こんな切迫したシナリオに現実に出くわしたことなんてないだろう。そして人が遭遇しないシナリオは、同じく公道を走る自動運転車も遭遇しない。つまり倫理学者たちは、現実にはほぼありえない、仮想的なシナリオにおいて自動運転車が取るべき挙動について議論しているのであり、それは楽しいおしゃべりではあるが、自動運転車の安全性向上になんら貢献するものではないと言う。
また彼は、倫理学者たちの議論は、自動運転車が二つの能力を持つことを前提にしていると指摘する。極めて高度な状況認識能力と、挙動の帰結を正確に予測できる能力だ。急に車の前に飛び出してきた人影が若者のものなのか、老人のものなのか？そこで仮にハンドルを右に切った場合、誰が死ぬことになり、誰が生き延びるのか？これらが正確にわかって初めて、プログラムに沿った道徳的判断が可能になる。しかしブルックスによれば、倫理学者たちの議論において前提とされている自動運転車のこうした能力は、今後20年やそこらで到達できると考えられる水準を大きく超えているそうだ。つまり現実味のない、仮想的な自動運転車の存在を前提とした議論であり、やはり実際の技術開発に寄与するものではない。
ブルックスの批判は、自動運転車の行動規範の設計を、コンビニなどのマニュアルの作成に例えてみるとわかりやすいかもしれない。コンビニでは、どのような状況でどのような行動を店員が取るべきか、細かくマニュアルで決まっているという。たとえば賞味期限切れになった弁当は廃棄することになっていて、そこで誰かが「どうせ捨てるならただでくれ」と言ってきても、多分渡してはいけないのだろう。しかし他の業務に支障が出るほど、長時間しつこく迫られ続けたならどうすればいいだろう。見るからに暴力的な人が、威圧的な態度で怒鳴りつけてきたならどうだろう。あるいは災害などで、街に食べ物が不足しているときだったならどうだろう。
こうした場合のそれぞれについて、取るべき行動を細かくマニュアルに記述していくことは可能かもしれない。しかしいたずらに細かくしていけばいいというものではない。現実には到底起こりえないシナリオにおける状況判断や、店員が知り得ない背景情報を前提とした状況判断について記述したところで、そのようなマニュアルはそもそも実行に移すことができないのだから、コンビニの運営にとって助けにはならない。自動運転車の倫理に関する議論は、このように現実と乖離したマニュアルを作るようなものだとブルックスは言っているのだ。
ブルックスの批判には、まだ続きがある。彼はどうやら、モラル・マシンを製作したグループは上で述べたような事柄について知っている、すなわち自分たちの研究が安全な自動運転車の実現に特に貢献しないことをわかっている、と考えているようだ。ではなぜ彼らはこのような研究を始めたのか。言うまでもなく、自動運転車は今極めてホットなトピックだ。また機械の道徳性という問題も、アシモフのSFにあるように古くから人々の関心を集めてきた。自動運転車の倫理を扱った研究を今このタイミングで行えば、それは高確率で世間の注目の的になり、CNNやBBC、Wiredなどのメディアで取り上げられるだろう。それが狙いだったのではないか、と言うのだ。学術的な価値の追求ではなく、パブリシティそれ自体を目的とした研究。ブルックスは、これは安っぽいクリックベイトだと言っている。
クリックベイトというのはもちろん、近年のオンライン・ジャーナリズムで常態化している、扇情的なタイトルで人を釣る中身のない記事のことだ。いかにも続きを読みたくなるような魅力的な見出しを付け（「富裕層が必ず実践している10の習慣」など）、それに引っかかった人たちは、クリックした先の記事のあまりの無意味さにがっかりするのだ。
ジャーナリズムと学術研究は一見まったく異なるジャンルのように思えるが、実は案外似たところがある。まず、両方とも成果物は情報だ。ジャーナリストは記事、研究者は論文という形式で情報を発信する。そして発信した情報がどれだけ多くの人の目に触れ、参照されたかが、評価基準の主軸になる。ジャーナリストは記事に対する反響（ウェブ媒体ならクリック数など）で評価され、研究者は論文に対する引用数で評価される。アルバート＝ラズロ・バラバシなど、いわゆるネットワーク・サイエンスの研究者たちが主張するところによると、インターネット上で記事が何度もシェアされ「バズる」プロセスと、論文の引用数が増えていくプロセスは数学的にも似通っているそうだ。
ジャーナリストが所属する組織（新聞社など）が、クリック数を稼ぐことの必要性は認めつつも、同時にジャーナリズムに対する確固とした理念や理想を維持できているなら、そこから発信される記事の質は保たれるのかもしれない。しかしそのタガが外れてしまったならどうなるだろうか。中身のないクリックベイトばかりが紙面を飾り、やがては一線を超えて、フェイクニュースと疑われるような代物までも載るようになるかもしれない。実際にそうしたメディアは増えているんじゃないだろうか。しかしジャーナリストを一概に責めるのは気が引ける。業界全体が「ディスラプト」されて危機に瀕している中で、みな生き残りに必死なだけなのだ。
同様に研究者が所属する組織や学会も、目指すべき理想や分野としての目的を明確に定義し、共有できている限りはうまく機能するのかもしれない。しかしタガが外れると、話題性の追求それ自体が自己目的化した、クリックベイト・リサーチが次第に増えてしまうのではないだろうか。ここでも、研究者を一概に責めるのは気が引ける。研究費やポジションの獲得競争が激化する中で、生き残りに必死なだけなのだ。昨年PNAS誌上で発表された文章、“Science in the Age of Selfies”（「セルフィー時代の科学」）によれば、今の研究者は研究そのものよりも、研究成果（および自分自身）のPRにより多くの時間と労力を掛けざるを得なくなっているという。結果として学会は小粒な成果で埋め尽くされ、「ちょっとした思いつきを量産する工場」になってしまっていると著者らは嘆く。学術研究から世界を牽引する革新的なイノベーションが次々と生まれた時代というのは、もはや過去のものなのかもしれない。