2017年の注目ニュース③ じつは自動運転車は完全に安全ではない!?〈後編〉

なにも聞かずに
一種の残酷ゲームにトライを！

この後編では、2016年から一部で話題になっている『モラル・マシーン』という名のサイトのことを紹介したい。ただ、これがどういうものなのかについては、アメリカのマサチューセッツ工科大学（MIT）のメディアラボが運営するサイトであるということ以外、すぐには明かせない。

とりあえず、みらいのクルマに一定の興味を持つ方は、サイトに飛んでほしい。そして、そこにある一種の残酷ゲームのようなものにトライしてみてほしい（PCよりもスマホがオススメ）。

ちなみに、ゲームのようなものが終わったあとに、その結果のデータをどうしたいかの問合せがでるが、それについては各自の判断におまかせしたい。

機械が壊れたときは
AIの道徳観が頼りになる

さて、残酷ゲーム然としたもののトライは終わっただろうか？

サイトのなかにいろいろと解説が付されているので、もうだいたい察しはついたと思うが、これはMITのメディアラボが「自動運転における人工知能の倫理観の研究」のために世界中から人間のモラルの意識のデータを収集しようと考えて展開しているものだ。ちなみに、冒頭に「これがどういうものなのかについては・・・すぐには明かせない」と書いたのは、彼ら自身がサイトのなかで「事前の情報が回答に及ぼす影響を防ぐため、研究の一環であることをあえてお伝えしませんでした」と述べていたからである。

では、その「自動運転における人工知能の倫理観の研究」とはいったいどのようなものなのか？
サイト内の概要というコーナーに、以下のような文言が書かれている。

〈21世紀、もはや私たちの生活は機械なしでは生きていけないといっても過言ではありません。今後、革新的な科学技術によって開発された人工知能は、公共道路を走行する自動運転車・再利用可能な自動ロケット・自動運搬船とさまざまな形をとり、私たちの社会にさらに深く関与することは間違いありません。しかし、果たして機械は「完璧」なのでしょうか。近い将来、人工知能を搭載した機械が、人間の命に関わる意思決定に迫られることが予測されます。私たちは、そのような状況下に置かれた人工知能が抱える「道徳的ジレンマ」を明確にすることで、人間と機械が共存する世界で生じる新たな「モラル上の意思決定」ついて、さらに理解を深めることができると考えます。
近年、機械倫理に関する科学的研究が多くの注目を集めています。「モラル・マシン」はクラウドソーシングの原理を応用し、（１）人工知能による道徳的意思決定についての異なる意見の収集、可視化、（２）またその意思決定がもたらすモラル上の問題に関する議論の活性化を目的としています〉

つまり、機械が壊れたときに操舵を指示する人工知能（AI）に、どのような道徳観をもたせ、どのような指示をさせるべきかを導きだすための全世界アンケートおよび研究を行っているというわけである。

 

そう、科学と工学の研究では世界一ともいわれるMITも、「人間がつくった機械は必ず壊れる＝自動運転車も事故を起こし得る」と考えていて、その対処法としてAIへのモラル組み込みを考えているのである（じゃあ、AIが壊れたらどうするのか、という突っ込みも入れたくなるところだが、きっと彼らはそこまで視野に入れている。それを信じよう）。

いま、クルマの技術は自動運転への道をひた走っている。一方、われわれ一般の人間の多くは、それによる理想の交通社会の到来をただただ受け身で待っているようなところがある。それではいけないのである。前編でも書いたように、自動運転車でも事故は起こり得るということを認識し、それに対処するルールやモラルの確立に積極的に組みしていくよう努めるべきなのだ。なにも壮大なことをやる必要はないと思う。たとえばこの『モラル・マシーン』をやり、そのデータを先方に送ることでもいいような気がするが、どうだろうか？ もう研究の一環という先入観が入ってしまって、もう一度、純粋にこの残酷ゲームができないということであれば、まだなにも知らない周りの人たちに勧めるという手だってある。間接的だが、それも立派なルールやモラルの確立の取り組みのひとつになるはずだ。レッツ、トライ！である。（文：みらいのくるま取材班）