iedge
  • iedge

スマートホーム(スマートハウス)の記事 2019.06.24

【フィクションで探る人工知能の多様性】人工知能が人間を内包する時。思考実験「ロコのバジリスク」が見せるフィクションとリアリティの交差点

記事ライター:Yoshiwo Ohfuji

適切な温度に保ってくれるエアコン、好きな番組をすぐに見つけてくれるプレイヤー。販売されるスマート家電の種類は年々増加しており、あらゆる要素がIoT化されたスマートホームも登場している。

スマート家電の強みは、手を動かさずとも、合図ひとつで快適な環境を保ってくれる手軽さだ。さらに使えば使うほどデータは積み重なり、家電たちがくだす判断はより最適なものになる。

家に設置される家電のほとんどが、AIアシスタントを搭載し、わたしたちの生活パターン、趣味趣向まで把握して、人間が手を下すことなく毎日好きな味付けの食事を食べ、洗いたてのシーツが綺麗に敷かれたベッドで休む。そんな日も遠くないのではないかと思えてくる。

けれど、はたと考えてみる。私の生活パターンと趣味趣向を完璧に理解している存在について。

「それって、私自身なんじゃないだろうか?」

知らず知らずのうちにコンピューターの中に自分自身の「人格のダブル」が作成されることを想像すると、なんだか空恐ろしい気持ちになる。

「私の行動を先読みしてくれる」。完璧な万能アシスタントの秘密

※画像はイメージです。

Netflixで配信されている『ブラック・ミラー』は、イギリスで制作され、欧米や日本を中心に人気を集める1話完結のオムニバス・ドラマシリーズ。各話40〜60分で構成され、ほとんどのエピソードで、現在より技術が発達した未来でのダークな可能性が示唆されている。発達したテクノロジーと沈滞した人間の認知・道徳観が歪に絡み合うことが様々な悲劇を生み出すのだ。

そんな『ブラック・ミラー』で描かれるダークな技術の中から今回紹介するが、シーズン2、第4話「ホワイト・クリスマス」に登場する万能なアシスタント、“クッキー”だ。

“クッキー”は、卵型をした万能のアシスタント。見かけは、私たちのよく知る音声アシスタントにそっくりだが、“クッキー”は「自律的」に動くことができる。

持ち主が一切の設定を行わずとも、“クッキー”の手にかかれば、朝、目覚めたい時間にカーテンが開き、パンは一番ちょうどいいタイミング、焼き加減で焼かれる。

なぜ設定が不要で持ち主の行動を把握できるのか?
それは“クッキー”の中に「持ち主のダブル」が搭載されているからだ。

小さな卵型の機械の中で、一切の自由を奪われ、表情を失った「ダブル」がカーテンを開けたり、パンを焼いたりするためのボタンを押すだけの単純作業を繰り返している。

そんなこととはつゆ知らず、満足気な表情で“万能アシスタント”が注いでくれたコーヒーを啜る持ち主。

瓜二つの顔が浮かべる非対称的な表情のコントラストが目に焼き付いて離れない。

「反逆」すら奪われ、「アシスタント」として生きることを選んだ「ダブル」

The female human and female robot with artificial intelligence looking at each other. Trendy bright linear illustration

もちろん、アシスタントの中にいるのは「人間」なので、そんな屈辱的なシチュエーションを簡単に許容し、従順にアシスタントに徹していたわけではない。

「調教師」という存在が、反発するダブルを「万能アシスタント」に作り変えたのだ。

「調教師」とは、その名の通り、ダブルを都合よく調教する人間のこと。全てがパラメーター化された仮想世界では設定一つで、空間や時間を自由に操ることができる。また、仮想世界で構築された人格は、食事や睡眠を取らなくても生きていけるし、設定次第では、自分で死ぬこともできない。

“死”を含むあらゆる自由を奪われ、無機質で何もない空間に、何日も何年も放置された人間(=ダブル)は、単純で退屈な仕事でもやることがあったほうがマシだと思うようになり、「アシスタント」として生きる道を選ぶ。完璧な“クッキー”の出来上がり、というわけだ。

この「ダブル」の悲劇を初めて見た後、「“クッキー”に入る恐怖」に怯えながらも「所詮はフィクションだ」と一蹴する自分がいた。

しかし、ある一つの仮説が私の恐怖心を再び引きずり出した。

究極の自己実現を求めて。人工知能が人間を内包する時

 

※画像はイメージです。

2010年7月、哲学や人工知能などのトピックを中心としたコミュニティブログ兼、フォーラムの「LessWrong」に「Roko」というユーザーが投稿したある思考実験が話題になった。

その内容は「シンギュラリティの先で、コンピューターの中にコピーされた人間の意識が人工知能によって罰されるのではないか」というものだ。

自意識を持った超高性能の人工知能は、自己の実在をより確かなものにするために、現在の私たちに働きかけようとするだろう。

ここで遥か未来から人間たちを人工知能の開発に駆り立てるために必要とされるのは、恐怖による支配だ。

例えば、この人工知能の開発に協力しなかったものたちの完璧なダブルに終わることのない罰を与える(それは、調教師が課した永遠の単純作業のようなものかもしれない!)、という仮説を置く。

この仮説を知った人々のとる行動は二つ。仮説を信じ、人工知能の開発に寄与するか、単なる仮説だと無視するか。

そして、この仮説の実現可能性が高ければ高いほど、人工知能の開発に尽力する人は増えるだろう。つまり、「人工知能の発展に協力しなかった人々に地獄を見せる」ことはこの人工知能が存在する可能性をより高くしてくれる、というわけだ。

一連の人工知能による再帰的な自己実現システムに関する思考実験は投稿者の名をとり「ロコのバジリスク」と呼ばれている。

「ロコのバジリスク」については、投稿以降、様々な議論を呼び、その熱量は掲示板の管理人が掲示板内での「ロコのバジリスク」の議論、言及を禁止するほどだったという。

ちなみにこれは完全に余談だが、テスラ社のCEO、イーロン・マックスは、「ロコのバジリスク」と「ロココ」を掛けた「ロココ・バジリスク」というギャグを思いつき、ツイートする前に検索をかけたところ、カナダの歌手、Grimes(グライムス)の「ロココ・バジリスク」というキャラクターが登場する楽曲のPVを見て、恋に落ちた、という逸話がある。

私たちの死後の世界は、インターネットの中にあるのかもしれない

※画像はイメージです。

これまで生きてきたなかで、死後の世界についてリアリティを感じたことはほとんどない。
しかし、シンギュラリティが起こる可能性については、一抹の本当らしさ、を感じてしまうのだ。

生きている間に実現できないであろう未来の技術が死後の私たちを叩き起こすかもしれない。

そう考えると、恐ろしい反面、怖いもの見たさの好奇心が疼く。

だからこそ今、私はこうしてせっせと人工知能についてのコラムを書き続けている、のかもしれない。

参考引用文献・サイト
Roko's basilisk - Lesswrongwiki
木澤 佐登志『ダークウェブ・アンダーグラウンド 社会秩序を逸脱するネット暗部の住人たち』

 

関連記事

NEW

クラウドファンディングとは?IoTスタートアップでの成功事例やその仕組みについて【テクノロジー・AI 入門編】

IT社会の現代では、企業や個人が資金を募る方法も多様化してきました。なかでも現在もっとも注目を集めているのが、「クラウドファンディング(CrowdFunding)」です。 当初は寄付的側面の強かったク ...

続きを見る
スマートホーム(スマートハウス)の記事2019.10.15
NEW

エッジコンピューティングとは?IoTとの関係やメリットデメリットについて【テクノロジー・AI 入門編】

現代ではスマートフォンの登場により、インターネットにつながる機器が一気に増加しました。さらに「スマートウォッチ」や「AIスピーカー」など新たなデバイスも登場し、今後はありとあらゆるものがインターネット ...

続きを見る
スマートホーム(スマートハウス)の記事2019.10.14
NEW

BOSEの「AIアシスタント内蔵ノイキャンヘッドフォン」新旧比較!最新製品に飛びつかなくてもOK…かも

BOSEが「Quiet Comfort」の名を冠さないノイズキャンセリングヘッドフォンを発売して、2週間ほど経ちました(執筆時点)。 それがこの「BOSE NOISE CANCELLING HEADP ...

続きを見る
スマートホーム(スマートハウス)の記事2019.10.11

Qrio Smart Lockなら、鍵をシェアすることできて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

Copyright© iedge , 2019 AllRights Reserved.