まずはトロッコ問題について考えよう
日本でも2020年を目処にレベル３（すべての運転を自動化するが、緊急時は運転手が操作する必要がある）の自動運転を公道で解禁する動きが出てくるなど、どんどん現実味を増す完全自動運転社会だが、大きな問題をはらんでいる。
その問題をわかりやすく説明する方法がある。「トロッコ問題」という有名な思考実験だ。まずは下の画像を見てもらいたい。
（画像引用元：wikipedia）
https://en.wikipedia.org/wiki/Trolley_problem#/media/File:Trolley_problem.png
左から、ブレーキの故障したトロッコ（電車）が走ってくる。まっすぐ進めば、５人の人間を轢き殺してしまう。あなたがポイントを切り替えれば、轢き殺す人間は１人で済む。このとき、あなたはポイントを切り替えるだろうか？
多くの人が「切り替える」と答えるだろう。４人多く命を救えるからだ。
では、ここで条件を変えて考えてみよう。
ポイントを切り替えた先にいる１人は未来ある子どもで、まっすぐ行った先にいる５人が死刑囚なら？ これなら、ポイントを「切り替えない」という人がほとんどのはずだ。
ではもう一度、条件を変えて考えてみよう。
まっすぐ進んだ先の５人は両手足を縛られて身動きのとれない小さな子どもで、あなたに必死の命乞いをしている。そして、ポイントを切り替えた先にいる１人が、あなたにとって大切な家族や恋人だったら？
このときあなたは、大切な１人 ――親や兄弟、配偶者、自分の子供かもしれない１人を犠牲にして、５人の子どもを救うだろうか。または、命乞いをする未来ある５人の子どもを犠牲にして大切な人を救うだろうか。
トロッコ問題と自動運転
どうだろう。かなり悩むのではないだろうか。
これにはもっと様々なパターンがある。老人５人と子ども１人、意識を失って眠っている５人と意識があり命乞いをする１人…。倫理について考える上で重要な思考実験であり、多くの人の頭を悩ませてきた問題だ。
これと同じことが、自動運転車でも起こるといえば、ピンとくる人も多いだろう。運転者が関与しない完全自動運転が実現したとして、予測不能の事故が発生しそうなとき、自動車を制御するAIが「トロッコ問題」に突き当たる可能性は十分にある。
「より多くが生き残る方法」をAIに判断させるのが一番確実で損失も少ないと考える人も少なくないが、本稿の読者はそう単純な問題でもないことに気付いているはずだ。
老人を救うのか、子どもを救うのか。金持ちを救うのか、貧乏人を救うのか。犯罪者を救うのか、善良な市民を救うのか。一瞬のうちに命の値段を値踏みし、もっとも損失の少ない回避行動をAIにとらせなくてはいけない。
しかし、先ほどのトロッコ問題には出てこなかった「３つ目の選択肢」をAIが持っていることも忘れてはならない。
もし、値踏みの結果、あなたの命の価値がもっとも安ければ…？ あなたの自動運転車は崖から飛び降りたり、無人のビルに突っ込むなりして、あなたと「心中」する可能性が十分にあるのだ。
あなた自身を殺すかもしれないAIに、果たして運転を任せられるだろうか。この問題が解決していないからこそ、日本では緊急時に運転者が操作しなくてはいけない「レベル３」の自動運転までしか検討されていないのだ。
ホームIoTでも発生しうる問題