iedge
  • iedge
スマートホーム(スマートハウス)の記事
2018.07.19
2019.12.26

MITが「精神的に異常な」AIを作り上げた。 電気羊は悪夢を生み出すか?

記事ライター:Yuta Tsukaoka

精神異常をきたしたAI ―その名も「ノーマン」

ガラス越しに浮かび上がる黒い影

人工知能が暴走して世界を恐怖のどん底に突き落とすという展開は、もはや古典的と言っていいだろう。

アイザック・アシモフの小説「われはロボット」とその映画「I, Robot」を始めとして、ジョニー・デップ主演の「トランセンデンス」、スペイン映画の「オートマタ」…と枚挙にいとまがないが、これらの世界はあくまでも空想のものとして我々はエンターテイメントを享受してきた。

しかし、それが空想でもエンターテイメントでもなく現実に起こりうることをMITが証明してしまった。なんと「精神異常をきたしたAIを作り上げた」というのだ。

名前は「ノーマン」。映画好きならピンとくるだろうが、サイコホラーの原点であり最高傑作、アルフレッド・ヒッチコックの映画「サイコ」からとられた名前だ。

「サイコ」を見たことがある読者なら、その名前を冠するほどのAIとはどんなものか、想像しただけで震えるだろう。

 次ページ >
マシンラーニングが生んだ悪魔

 

それはマシンラーニングが生んだ悪魔

カラフルで少し不気味な色彩イメージ

映画とはちがい、ノーマンが「作られた」存在であるという点では、まだ人類が安心する余地はある。

MITによると、ノーマンはReddit(米国版の5ちゃんねるのようなもの)に見られる「暴力的で凄惨な画像」、つまり「グロ画像」をマシンラーニング(機械学習)に流し込み、ニューラルネットワークで体系化することで作り上げられたとのこと。

驚くべきはその成果で、ロールシャッハ・テストをしてみると一般的なAIが「花のいけられた花瓶」と答える画像に「射殺された男性」、「傘を掲げた人」では「悲鳴をあげる妻の前で撃たれた夫」、「隣り合う男女」は「建物から飛び降りる妊婦」と答えたとか。

これ、人間であれば要治療である。

この研究の目的は「機械学習が与えられたデータの偏向に影響されること」と「AIのアルゴリズムバランスが崩れている場合はアルゴリズムを形成するデータに問題がある可能性」を証明するためだったそうだが、どうやら成功したと見ていいだろう。

 

AIによる公平な人類統治はやはり不可能か

人工知能のイメージ

人間の子供でも、入力するデータ ――すなわち、映像や書籍の刺激、周囲の言葉、環境、体験 ――によって性格は変化する。その当たり前のことがAIにも起こるということが証明されたのが、このニュースのポイントだ。

これは一見、当たり前のことのようだが実は深い問題をはらんでいる。

処理を一方向に固定したこれまでのコンピューターとは違い、自分で考え、解釈し、判断することで幾通りもの処理をする可能性があるAIにもこの傾向があるということは、AIの思考を意図的に捻じ曲げることが可能だということである。

これから、AIは司法を皮切りに行政、立法など文明の基幹システムに入り込んでくるだろう。それらのAIが誰かの手によって偏った考えを持っているとしたら、どうだろう?

私達がAIに期待するのは「人間よりも合理的な判断」であるはずだが、逆に「人間によって偏向させられた判断」を下すことになる。そして、我々はきっとそれに気が付けない。

AIによる統治を望む声は、意外なほどに小さくはない。AIによる政治機構への介入はその可能性が具体的に議論され、ニュージーランドでは「SAM」と呼ばれるAI政治家(議席は持っていない)が誕生している。

AIの思考を操ろうという政治的な争いは、実は水面下で着々と進行しているのかもしれない。

関連記事

Roborock S8 Pro Ultraにロボット掃除機の未来を見た

ロボット掃除機を買い替えた  2023年10月、コロナ禍で少しだけ流行った地方移住ブームに乗り切れなかった私は、今更になって都内から地方都市への移住を果たした。東京都の地区40年-14平米ワンルームマ ...

続きを見る
スマートホーム(スマートハウス)の記事 2023.12.04

着実な広がりを見せるスマートホーム市場〜最新の動向についてアクセルラボが発表〜

 スマートホームサービス「SpaceCore」(スペース・コア)などを手がけるアクセルラボが、消費者と不動産事業者を対象に「スマートホームに関する調査報告会」を行った。  同調査は、全国の18~69歳 ...

続きを見る
スマートホーム(スマートハウス)の記事 2023.09.05

トラックボールとは?知れば知るほど根強い愛用者がいる理由がわかる!

パソコンでカーソルを操作するデバイスは、マウスだけではありません。トラックボールというデバイスがあります。多くの人が使っているわけではありませんが、根強いファンがいます。人によっては、トラックボールが ...

続きを見る
スマートホーム(スマートハウス)の記事 2023.08.24

Qrio Smart Lockなら、鍵をシェアすることができて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.11.28

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.11.28

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事 2019.12.03

Copyright© iedge , 2024 AllRights Reserved.