iedge
  • iedge

スマートホーム(スマートハウス)の記事 2019.01.10

AIが命の値踏みに直面?自動運転の「トロッコ問題」はIoT家電にも影響する

記事ライター:Yuta Tsukaoka

まずはトロッコ問題について考えよう

日本でも2020年を目処にレベル3(すべての運転を自動化するが、緊急時は運転手が操作する必要がある)の自動運転を公道で解禁する動きが出てくるなど、どんどん現実味を増す完全自動運転社会だが、大きな問題をはらんでいる。

その問題をわかりやすく説明する方法がある。「トロッコ問題」という有名な思考実験だ。まずは下の画像を見てもらいたい。

トロッコ問題のイメージ図
(画像引用元:wikipedia)
https://en.wikipedia.org/wiki/Trolley_problem#/media/File:Trolley_problem.png

左から、ブレーキの故障したトロッコ(電車)が走ってくる。まっすぐ進めば、5人の人間を轢き殺してしまう。あなたがポイントを切り替えれば、轢き殺す人間は1人で済む。このとき、あなたはポイントを切り替えるだろうか?

多くの人が「切り替える」と答えるだろう。4人多く命を救えるからだ。

では、ここで条件を変えて考えてみよう。

ポイントを切り替えた先にいる1人は未来ある子どもで、まっすぐ行った先にいる5人が死刑囚なら? これなら、ポイントを「切り替えない」という人がほとんどのはずだ。

ではもう一度、条件を変えて考えてみよう。

まっすぐ進んだ先の5人は両手足を縛られて身動きのとれない小さな子どもで、あなたに必死の命乞いをしている。そして、ポイントを切り替えた先にいる1人が、あなたにとって大切な家族や恋人だったら?

このときあなたは、大切な1人 ――親や兄弟、配偶者、自分の子供かもしれない1人を犠牲にして、5人の子どもを救うだろうか。または、命乞いをする未来ある5人の子どもを犠牲にして大切な人を救うだろうか。

トロッコ問題と自動運転

2つに分かれている線路

どうだろう。かなり悩むのではないだろうか。

これにはもっと様々なパターンがある。老人5人と子ども1人、意識を失って眠っている5人と意識があり命乞いをする1人…。倫理について考える上で重要な思考実験であり、多くの人の頭を悩ませてきた問題だ。

これと同じことが、自動運転車でも起こるといえば、ピンとくる人も多いだろう。運転者が関与しない完全自動運転が実現したとして、予測不能の事故が発生しそうなとき、自動車を制御するAIが「トロッコ問題」に突き当たる可能性は十分にある。

「より多くが生き残る方法」をAIに判断させるのが一番確実で損失も少ないと考える人も少なくないが、本稿の読者はそう単純な問題でもないことに気付いているはずだ。

老人を救うのか、子どもを救うのか。金持ちを救うのか、貧乏人を救うのか。犯罪者を救うのか、善良な市民を救うのか。一瞬のうちに命の値段を値踏みし、もっとも損失の少ない回避行動をAIにとらせなくてはいけない。

しかし、先ほどのトロッコ問題には出てこなかった「3つ目の選択肢」をAIが持っていることも忘れてはならない。

もし、値踏みの結果、あなたの命の価値がもっとも安ければ…? あなたの自動運転車は崖から飛び降りたり、無人のビルに突っ込むなりして、あなたと「心中」する可能性が十分にあるのだ。

あなた自身を殺すかもしれないAIに、果たして運転を任せられるだろうか。この問題が解決していないからこそ、日本では緊急時に運転者が操作しなくてはいけない「レベル3」の自動運転までしか検討されていないのだ。

トロッコ問題はホームIoTでも発生しうる

コンセント周辺が発火している様子

「トロッコ問題」が車輪のあるトロッコを例にとっているので自動運転と合わせて考えられることが多いのだが、じつは「命の値段を判断する」という根幹に立ち返れば、AI制御のホームIoT家電にも同じことが起こりうる。

いまは照明や、せいぜい電子レンジあたりまでしかAIは進出していないが、施錠管理や防災、防犯まで制御するようになると話が変わる。

仮に私の自宅キッチンから火が出て火事になったとしよう。すると、通常であればAIが火事を知らせてくれて消火活動を始め、私と私の家族が無事に避難できることを期待する。

しかし、集合住宅である私の家で、私自身が消火活動をしないとマンション全体に火が回って多くの人が犠牲になるとしたら?AIは避難経路のロックを解除せず、私に消火活動をさせるかもしれない。

実際には、そういう場合のために物理的なセイフティネットとして鍵を壊すツールなどが配置されているのだろうが、理屈としてはこういうことが起こりうるという話だ。

人形が頭を悩ませている様子

AIに倫理を理解させるためには、人間がまずはそれを理解しなくてはならない。しかし、トロッコ問題で頭を悩ませたあなたなら分かるだろう。容易なことではないのだ。

しかし、それなしにAIがすべてを管理するとなると… 私はそんな未来を想像するとき、「2001年宇宙の旅」でHAL9000が乗組員を次々と殺し始め、「デイジー・ベル」を歌いながら命乞いをするシーンが頭をかすめてしまう。

<このライターの記事をもっと読む>
トヨタが「レベル4」の自動運転実験開始 自動運転の基礎技術とレベルについて再確認しよう
【エンタメ作品が描き出すAIの未来 vol.3】神林長平「帝王の殻」で描かれる自分自身のクローンAIを世界は求めるだろうか?

関連記事

NEW

【フィクションで探る人工知能の多様性】SFドラマ『オルタード・カーボン』で描かれる自己一貫性への葛藤を解決するのは、「分人」という新しい自己の捉え方かもしれない

10代のころ、三島由紀夫の小説をよく読んでいた。 輪廻転生を主軸においた『豊饒の海』シリーズや憧れの人に成り代わりたいという倒錯した欲望を描いた『仮面の告白』など、多感なティーンエイジャーにとって、三 ...

続きを見る
スマートホーム(スマートハウス)の記事2019.07.22
NEW

5Gの回線速度はどのくらいになる?4Gと徹底比較

5Gとは 5Gとは最新の「移動体通信規格(スマホなど携帯機器用の通信技術)」。 5Gは、 ・超高速、大容量・・・超高速であり、大容量の通信ができる ・低遅延・・・データの遅延が少なく、スムーズな通信が ...

続きを見る
スマートホーム(スマートハウス)の記事2019.07.22
NEW

日本にも続々進出!スマートシェードで毎日をちょっと便利に

日本でも「ウェルビーイング」という単語が各所で聞かれるようになりました。生活のささいな部分に手をかけたり、自分を見つめ直してささやかな幸せを感じたり、その方法は様々です。以前iedgeでも取り上げた、 ...

続きを見る
スマートホーム(スマートハウス)の記事2019.07.19

Qrio Smart Lockなら、鍵をシェアすることできて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

Copyright© iedge , 2019 AllRights Reserved.