AIの発展が見せた新しい闇 自動生成ムービー「Deepfake」はいかにして生まれてしまったか | スマートホーム(スマートハウス)情報サイト | iedge
iedge
  • iedge

スマートホーム(スマートハウス)の記事 2018.07.10

AIの発展が見せた新しい闇 自動生成ムービー「Deepfake」はいかにして生まれてしまったか

記事ライター:Yuta Tsukaoka

Deepfakeとは?

浮かび上がる様々な画面

「アイコラ」という言葉を覚えている読者は多いだろう。

アイドルの顔写真とポルノ画像をコラージュ(合成)したフェイクポルノ画像の一種で、2000年代前半に大量に出回り、多くの芸能事務所がそれらの撲滅に躍起になった。

当時は「職人」と呼ばれる人々が暗躍し、その量産に一役買ってきたが、今はその役をAIが担っている。それが、いま問題になっている「Deepfake」だ。

Deepfake は、ある人物のさまざまな写真をAIに読み込ませて作られる偽動画のこと。2018年3月に爆発的に広がったインターネットミームで、たとえば「どんな映画にもニコラス・ケイジが出演している」というような動画が作られた。


(video:Usersub/YouTube)

念のために伝えておくと、これはニコラス・ケイジの映画出演シーンを繋げた動画ではない。ニコラス・ケイジの顔を学習したAIが、「アイコラ」の要領で映画の登場人物の顔をニコラス・ケイジに差し替えて動かしているのだ。

そして、はじめに「アイコラ」の例をとったように、これがポルノに使われるまでに時間はかからなかった。

 

AIの利点がそのまま問題を深刻化させているDeepfake

女性の顔を読み取るイメージ

この技術を使えば、どのような人のどのような動画も作ることができる。もちろんポルノも。

米国では早くもこれが社会問題化している。作られたビデオがプライベートビデオではなく商品としてのポルノビデオのように見えることから、一部の社会学者からは「リベンジポルノよりも被害が大きい」と規制を呼びかける声もあるほどだ。

しかし、作り方が単純であるだけに、何を規制すればフェイクポルノを防ぐことができるのか分からないことが、この問題をさらに根深くしている。

AI技術の素晴らしい点は、どんな人でもそれを扱うことができるということだ。SFの世界に登場する「マザーコンピューター」のような全知全能の存在を作ろうとするなら話は別だが、ある特定分野でのみ活用されるAIなら、一般的なコンピューターで十分に動かすことができる。

実際、AIを利用したニューラル翻訳はオフラインのスマホでも使うことができることからも、それは明らかだろう。

 

いま、Deepfakeを見抜くたった一つの方法

男性の目のアップ

このDeepfakeの問題がことさら重要視されるのは、ポルノだけでなく政治にも影響を与えかねないからだ。

たとえばこの動画を見てほしい。


(video:Matthias Niessner/YouTube)

これは、ドイツの科学者によるDeepfakeの実験動画だ。

左下にあるトランプ大統領の写真を素材に、左上の人物の動きをトレースし、右に動画が出力されている。これはあくまで実験用動画だが、Deepfakeの素材に政治家を使うと、どんなことが可能になるかは想像に易いだろう。

最悪の展開 ――たとえば自国の最高権力者が世界中に対して宣戦布告をし、それが信じられてしまうというような――を防ぐために、私たちが知っておくべき対抗策をニューヨーク州立大学オールバニ校の研究チームが発表している。

それは、意外なほどに単純なことで、Deepfakeで作られた動画は「まばたき」をしないのだそうだ。

というのも、Deepfakeは「大量の顔写真データ」をもとにした合成技術なので、人が写真として残さない「目をつぶった顔」がデータにないから。この記事で取り上げたニコラス・ケイジとトランプ大統領の動画も、注意深く見ればまばたきをしていないことに気付けるだろう。

他にも、呼吸や微妙な身体の揺れなどもDeepfakeでは見られない。これはAIによる自動生成の(今のところの)限界がここにあるということを示している。しかし、すべての技術はその不完全性を補完する方向に成長する。

この方法でDeepfakeを見抜けるのも時間の問題でしか無いだろう。そのとき、私達が信じてもいいものは、いったいどこにあるのだろうか。

関連記事

NEW

AIにとって理想的な「教師」は誰か? メルボルン大学のチームが実験で「AIの危険性」に警鐘

実験に使われた「生体ミラー」 ※画像はイメージです この実験では「生体ミラー(原文では The Biometric Mirror)」という装置が使われた。これは、1万の顔データを備えた人工知能によって ...

続きを見る
スマートホーム(スマートハウス)の記事2018.09.25
NEW

スマートホームを実現する「LS Mini」

LS Miniに内蔵される「AI」とは? LS Miniは、自宅の家電製品の自動化だけでなく、家族の見守りや、留守中の遠隔対応、さらには、自宅の快適な環境づくりのために、温度などを自動的にコントロール ...

続きを見る
スマートホーム(スマートハウス)の記事2018.09.24
NEW

一億円以上の資金を調達した、その実力とは?猫ヘルスケア「toletta」 

toletta完成までの道のり tolettaを開発した株式会社ハチたまの社長である堀宏治氏は、NTTデータで病院情報システムの開発に携わりました。病院経営コンサルティングに従事したのち、起業します。 ...

続きを見る
スマートホーム(スマートハウス)の記事2018.09.23

Qrio Smart Lockなら、鍵をシェアすることできて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

Copyright© iedge , 2018 AllRights Reserved.