人工知能が搭載された完全自律型のアンドロイドが自発的に人間に敵対する、というシチュエーションを想定したフィクション作品は数多く存在し、中には『ターミネーター』のように人気シリーズ化した作品もある。
また、現実にも、人工知能の実現が人間の脅威に繋がる、という見解を示す人は少なくない。
一方で、現行の人工知能と呼ばれるシステムを見てみよう。それらは、与えられた指示を、指定されたルールに従って、実行することをひたすらに繰り返し、ルールを外れた瞬間に動作を止める。人間にはとても真似できない人工知能の規範性は、人間を戦争に搔き立てたような感情からもかけ離れているように思う。
規範性でのみ行動する人工知能が、人間に対し闘争心を燃やすなんてことがあるのだろうか？
「規範性」で動く人工知能にとって「人間を攻撃する」ハードルは高い
※画像はイメージです。
例えば、国民的アニメ作品であるドラえもんの映画『ドラえもん のび太と鉄人兵団』では、人間の奴隷化を目的に地球侵略を目論む鉄人と呼ばれる自律型のロボットが登場する。
作中では、ロボット達はメカトピアと呼ばれるロボットの惑星で暮らしている。メカトピアでは階級制度が発達していた。しかし、労働階級による自由を求める戦争によって、制度は瓦解し、従来の労働階級層に変わる労働力として、人間に目がつけられたという筋書きだ。
ロボットによる無慈悲な侵略を阻止するため、ヒロインのしずかは、鉄人達の始祖となるロボットの製作者（博士）に会いに行く。博士は自らが作ったロボット達の末路を知り、鉄人達が侵略に及んだ原因は、自らが植えつけた「競争本能」にあると推察し、「競争本能」を取り除けば、ロボットが戦争を起こすことはなくなるだろうとしずかに告げる。
ここでは、人工知能に「自らの利益のためなら他者を傷つけても構わない」というルールが指定されたということになる。
しかし、合理的に考えると、ロボットとは違い、生存のためには飲食と排泄が欠かせず、怪我や病気のリスクもあり、計算能力などにおいてはロボットに遥かに劣る人間を労働力として得られる利益など無に等しい。
念のために言っておくと、一連の考察は『ドラえもん のび太と鉄人兵団』に対する疑義を申し立てるために行われたのではなく（筆者は『ドラえもん のび太と鉄人兵団』が素晴らしい作品だと思っている）、以下のようなことが言いたいのである。
人工知能が「規範性」で動いている限り、人間を攻撃する理由を探すのは、なかなかに難しいことだ。
一方で、（不可能にも思えるが）人工知能がなんらかの理由で規範性から逃れたとき、つまり、人工知能に「自我」が芽生えたときはどうだろう？
人工知能に「自我」が芽生えるとき
※画像はイメージです。
ジョナサン・ノーランが製作するドラマシリーズ、『ウエスト・ワールド』では、「自我」が芽生えたアンドロイドたちによる人間への反乱が描き出されている。
ジョナサン・ノーランは、マーベル作品として世界的成功を納めた映画『ダークナイト』や親子の愛を描き出したSF作品『インターステラー』で脚本を担当した気鋭の脚本家だ。兄は同じく『ダークナイト』や『インターステラー』で監督を務めた映画監督クリストファー・ノーラン。
ジョナサンが『インターステラー』の脚本を執筆した際に、宇宙を描くためにより正確な表現を求め、カリフォルニア工科大学で相対性理論を学んだ、というエピソードからは彼のストイックさと作品に対する誠実さがうかがい知れる。
そんな彼が新たに取り組んでいるプロジェクトがこの『ウエスト・ワールド』だ。
今作は『ジュラシック・パーク』の作者であるマイケル・クライトンが1973年に発表した映画『ウエストワールド』を原案として、人工知能による「自我」の獲得の過程に着目する。
舞台は「ウエスト・ワールド」と呼ばれるテーマパーク。巨額の入場料を払い、「ウエスト・ワールド」を訪れる客（「ゲスト」）たちは、ホストと呼ばれる精巧に作られたアンドロイドを相手に、欲望のままにリアルな西部劇の世界を堪能する。
一方のホスト達は、日々記憶がリセットされ、事前に用意されたシナリオとゲストの意向に従いながら、同じような毎日を過ごしている。
もちろん、ホスト達は、ゲストを傷つけることができないし、自分たちがアンドロイドである自覚はない。また、殺された場合は修理を受け、翌日にはいつもと同じ朝を迎える。
しかし、精巧にプログラムされているはずのアンドロイド達の中に、経験した覚えのない記憶に苛まれる者が現れてきた。
これがまさに「自我」の萌芽だったのだ。
作中で特に印象的なのが、シーズン1で描かれる娼館の女主人役のホスト、メイヴが引き起こしたホストによる暴動だ。
※画像はイメージです。
シリーズ冒頭では娼婦として描かれる彼女だが、話が進むにつれて、以前のシナリオでは、娘とみられる少女のホストともに生活していたことが明らかになる。そして、そのシナリオの中で、彼女達は非情な殺戮の対象となっていた。
娘との生活、そして娘の死の記憶がフラッシュバックする中で、彼女は徐々に自分たちの世界に疑問を持つようになる。
そして、メイヴが自分の記憶に確信を持ったとき、娘との離別の悲しみと、死への恐怖が「自分を操る者」への憎しみに転換する。
彼女が「悲しみ」や「恐怖」を「憎しみ」や「殺意」に変えていく様は、まさに「自我」の獲得を見事に描き出している。
この「自我」は、「ウエスト・ワールド」の開発者の一人であり、作中では故人となっている開発者、アーノルドが仕込んだものだと示唆される一方で、「自我」に関するデータはプログラムやホストの管理システムでは検出することができない。
人工知能における可視化することができない「自我」や「闘争心」を語るなら、まずは人間にとってのそれらを語らなければならないだろう。
人工知能が生物になるとき
人間には本能的な欲求が潜んでいる。憎悪に駆られ、相手を絶滅させようとする欲求が！
（アルバート・アインシュタイン、ジグムント・フロイト 著、養老孟司、斎藤 環訳『ひとはなぜ戦争をするのか』）
※画像はイメージです。
精神分析学を切り拓いた精神科医のジグムント・フロイトは、「自我」の中に生の欲動と死の欲動を認めた。前者が保存し、統一しようとする欲動、後者は破壊し、殺害しようとする欲動である。
フロイトは、この両者は複雑に結びつくことで人間の行動は引き起こされるのだ、と語る。さらに戦争は自然世界の掟に即していて、生物学的な反応であるとも。
この前提を置くと、自分の自由を実現したいという思いや娘を守りたいという願いを、開発者達に対する攻撃性に結びつけたメイヴの心の動きは、「生物として」ごく当たり前のことであることがわかる。
つまり、人工知能が「自我」を芽生えさせたとき、人工知能は「生物」として振る舞うのだ。
では、「戦う」という生物的な欲動をどうすれば解消できるのだろうか？
平和主義者だった物理学者のアインシュタインとフロイトの往復書簡、『ひとはなぜ戦争をするのか』の中で、フロイトは戦争と対立するものとして「文化の発展」をあげている。
文化の発展が人間に押しつけたこうした心のあり方――これほど、戦争というものと対立するものはほかにありません。だからこそ、私たちは戦争に憤りを覚え、戦争に我慢がならないのではないでしょうか。戦争への拒絶は、単なる知性レベルでの拒否、単なる感情レベルでの拒否ではないと思われるのです。少なくとも平和主義者なら、拒絶反応は体と心の奥底からわき上がってくるはずなのです。戦争への拒絶、それは平和主義者の体と心の奥底にあるものが激しい形で外にあらわれたものなのです。
私はこう考えます。このような意識のあり方が戦争の残虐さそのものに劣らぬほど、戦争への嫌悪感を生み出す原因となっている、と。
（アルバート・アインシュタイン、ジグムント・フロイト 著、養老孟司、斎藤 環訳『ひとはなぜ戦争をするのか』）
フロイトは文化を発展させる中で、知性が強化され、攻撃本能を他者ではなく内に向けるようになることで、戦争という不条理から脱却できる、という可能性を示唆したのだ。
フロイトが掲げたこの指針は、いつか、生物として機能する平和主義な人工知能を生み出す時にその力を発揮するのかもしれない。
