MITが「精神的に異常な」AIを作り上げた。 電気羊は悪夢を生み出すか？

精神異常をきたしたAI ―その名も「ノーマン」

人工知能が暴走して世界を恐怖のどん底に突き落とすという展開は、もはや古典的と言っていいだろう。

アイザック・アシモフの小説「われはロボット」とその映画「I, Robot」を始めとして、ジョニー・デップ主演の「トランセンデンス」、スペイン映画の「オートマタ」…と枚挙にいとまがないが、これらの世界はあくまでも空想のものとして我々はエンターテイメントを享受してきた。

しかし、それが空想でもエンターテイメントでもなく現実に起こりうることをMITが証明してしまった。なんと「精神異常をきたしたAIを作り上げた」というのだ。

名前は「ノーマン」。映画好きならピンとくるだろうが、サイコホラーの原点であり最高傑作、アルフレッド・ヒッチコックの映画「サイコ」からとられた名前だ。

「サイコ」を見たことがある読者なら、その名前を冠するほどのAIとはどんなものか、想像しただけで震えるだろう。

それはマシンラーニングが生んだ悪魔

映画とはちがい、ノーマンが「作られた」存在であるという点では、まだ人類が安心する余地はある。

MITによると、ノーマンはReddit（米国版の５ちゃんねるのようなもの）に見られる「暴力的で凄惨な画像」、つまり「グロ画像」をマシンラーニング（機械学習）に流し込み、ニューラルネットワークで体系化することで作り上げられたとのこと。

驚くべきはその成果で、ロールシャッハ・テストをしてみると一般的なAIが「花のいけられた花瓶」と答える画像に「射殺された男性」、「傘を掲げた人」では「悲鳴をあげる妻の前で撃たれた夫」、「隣り合う男女」は「建物から飛び降りる妊婦」と答えたとか。

これ、人間であれば要治療である。

この研究の目的は「機械学習が与えられたデータの偏向に影響されること」と「AIのアルゴリズムバランスが崩れている場合はアルゴリズムを形成するデータに問題がある可能性」を証明するためだったそうだが、どうやら成功したと見ていいだろう。

AIによる公平な人類統治はやはり不可能か

人間の子供でも、入力するデータ ――すなわち、映像や書籍の刺激、周囲の言葉、環境、体験 ――によって性格は変化する。その当たり前のことがAIにも起こるということが証明されたのが、このニュースのポイントだ。

これは一見、当たり前のことのようだが実は深い問題をはらんでいる。

処理を一方向に固定したこれまでのコンピューターとは違い、自分で考え、解釈し、判断することで幾通りもの処理をする可能性があるAIにもこの傾向があるということは、AIの思考を意図的に捻じ曲げることが可能だということである。

これから、AIは司法を皮切りに行政、立法など文明の基幹システムに入り込んでくるだろう。それらのAIが誰かの手によって偏った考えを持っているとしたら、どうだろう？

私達がAIに期待するのは「人間よりも合理的な判断」であるはずだが、逆に「人間によって偏向させられた判断」を下すことになる。そして、我々はきっとそれに気が付けない。

AIによる統治を望む声は、意外なほどに小さくはない。AIによる政治機構への介入はその可能性が具体的に議論され、ニュージーランドでは「SAM」と呼ばれるAI政治家（議席は持っていない）が誕生している。

AIの思考を操ろうという政治的な争いは、実は水面下で着々と進行しているのかもしれない。