AIの発展が見せた新しい闇 自動生成ムービー「Deepfake」はいかにして生まれてしまったか | スマートホーム(スマートハウス)情報サイト | iedge
iedge
  • iedge

スマートホーム(スマートハウス)の記事 2018.07.10

AIの発展が見せた新しい闇 自動生成ムービー「Deepfake」はいかにして生まれてしまったか

記事ライター:Yuta Tsukaoka

Deepfakeとは?

浮かび上がる様々な画面

「アイコラ」という言葉を覚えている読者は多いだろう。

アイドルの顔写真とポルノ画像をコラージュ(合成)したフェイクポルノ画像の一種で、2000年代前半に大量に出回り、多くの芸能事務所がそれらの撲滅に躍起になった。

当時は「職人」と呼ばれる人々が暗躍し、その量産に一役買ってきたが、今はその役をAIが担っている。それが、いま問題になっている「Deepfake」だ。

Deepfake は、ある人物のさまざまな写真をAIに読み込ませて作られる偽動画のこと。2018年3月に爆発的に広がったインターネットミームで、たとえば「どんな映画にもニコラス・ケイジが出演している」というような動画が作られた。


(video:Usersub/YouTube)

念のために伝えておくと、これはニコラス・ケイジの映画出演シーンを繋げた動画ではない。ニコラス・ケイジの顔を学習したAIが、「アイコラ」の要領で映画の登場人物の顔をニコラス・ケイジに差し替えて動かしているのだ。

そして、はじめに「アイコラ」の例をとったように、これがポルノに使われるまでに時間はかからなかった。

 

AIの利点がそのまま問題を深刻化させているDeepfake

女性の顔を読み取るイメージ

この技術を使えば、どのような人のどのような動画も作ることができる。もちろんポルノも。

米国では早くもこれが社会問題化している。作られたビデオがプライベートビデオではなく商品としてのポルノビデオのように見えることから、一部の社会学者からは「リベンジポルノよりも被害が大きい」と規制を呼びかける声もあるほどだ。

しかし、作り方が単純であるだけに、何を規制すればフェイクポルノを防ぐことができるのか分からないことが、この問題をさらに根深くしている。

AI技術の素晴らしい点は、どんな人でもそれを扱うことができるということだ。SFの世界に登場する「マザーコンピューター」のような全知全能の存在を作ろうとするなら話は別だが、ある特定分野でのみ活用されるAIなら、一般的なコンピューターで十分に動かすことができる。

実際、AIを利用したニューラル翻訳はオフラインのスマホでも使うことができることからも、それは明らかだろう。

 

いま、Deepfakeを見抜くたった一つの方法

男性の目のアップ

このDeepfakeの問題がことさら重要視されるのは、ポルノだけでなく政治にも影響を与えかねないからだ。

たとえばこの動画を見てほしい。


(video:Matthias Niessner/YouTube)

これは、ドイツの科学者によるDeepfakeの実験動画だ。

左下にあるトランプ大統領の写真を素材に、左上の人物の動きをトレースし、右に動画が出力されている。これはあくまで実験用動画だが、Deepfakeの素材に政治家を使うと、どんなことが可能になるかは想像に易いだろう。

最悪の展開 ――たとえば自国の最高権力者が世界中に対して宣戦布告をし、それが信じられてしまうというような――を防ぐために、私たちが知っておくべき対抗策をニューヨーク州立大学オールバニ校の研究チームが発表している。

それは、意外なほどに単純なことで、Deepfakeで作られた動画は「まばたき」をしないのだそうだ。

というのも、Deepfakeは「大量の顔写真データ」をもとにした合成技術なので、人が写真として残さない「目をつぶった顔」がデータにないから。この記事で取り上げたニコラス・ケイジとトランプ大統領の動画も、注意深く見ればまばたきをしていないことに気付けるだろう。

他にも、呼吸や微妙な身体の揺れなどもDeepfakeでは見られない。これはAIによる自動生成の(今のところの)限界がここにあるということを示している。しかし、すべての技術はその不完全性を補完する方向に成長する。

この方法でDeepfakeを見抜けるのも時間の問題でしか無いだろう。そのとき、私達が信じてもいいものは、いったいどこにあるのだろうか。

関連記事

NEW

クリエイティビティは人間の聖域か? ―AIが生み出したジャパニーズアイドルたち

架空のアイドルを自動生成するGANs (video:株式会社データグリッド/YouTube) まずは上の動画を見てほしい。 これはアイドル画像のモーフィング動画ではない。なんと、AIによってアイドルの ...

続きを見る
スマートホーム(スマートハウス)の記事2018.07.17
NEW

Garminがお届けする活動量計Vivofit4のこの機能が凄い! 

365日24時間ウェアラブルなVivofit4 Vivofit4を365日24時間身に着けることが可能(ウェアラブル)で、約1年間電池を交換する必要がありません。上位モデルが最大でも7日しか連続使用で ...

続きを見る
スマートホーム(スマートハウス)の記事2018.07.16
NEW

スマートフォンをもっと便利に。アプリの遠隔操作ができる「Pochiru」とは

スマートフォンのアプリを遠隔操作できるデバイス「Pochiru」 「Pochiru」はBraveridge社によって開発された、小さなボタン型デバイスです。簡単に説明すると、ボタンを押すだけで、スマー ...

続きを見る
スマートホーム(スマートハウス)の記事2018.07.15

Qrio Smart Lockなら、鍵をシェアすることできて、スマホで解錠できる!

Qrio Smart Lockなら、まるで鍵を開けるかのようにスマホを操作するだけ Qrio Smart Lockは、スマートロックサービスです。 鍵をドアに設置する際の工事も不要です。鍵につけさえす ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

これからのスマートホームには欠かせないAIについて知っておこう!

そもそもAIって何? AI(Artificial Intelligence=人口知能)は、人間が行う様々な作業や活動をコンピューターなどで模倣し、人間と同じような知能の実現を目的としたソフトウェアおよ ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

人の感情に共感する次世代のAIロボット「JIBO」とは?

多くの可能性を秘めた新型AIロボット「JIBO」 JIBOは、アメリカのMIT(マサチューセッツ工科大学)のシンシア・ブリジール准教授により開発されました。 その後、2014年にIndiegogoのク ...

続きを見る
スマートホーム(スマートハウス)の記事2017.10.02

Copyright© iedge , 2018 AllRights Reserved.