お使いのOS・ブラウザでは、本サイトを適切に閲覧できない可能性があります。最新のブラウザをご利用ください。

放送中

放送中


  • 放送ログ
  • 音声あり

ディープフェイク

森本毅郎 スタンバイ!

忙しい朝でもニュースがわかる「森本毅郎・スタンバイ!」(TBSラジオ、月~金、6:30-8:30)8時からは、話題のアンテナ「日本全国8時です」

全国ネットで、日替わりゲストとともに放送。
毎週木曜日は、東京大学名誉教授、月尾嘉男さんの「雑学コラム」!

月尾嘉男

解説は東大名誉教授の月尾嘉男

8月15日(木)は「ディープフェイク」

 

★ディープフェイク

今日は最近の情報社会で話題になっている「ディープフェイク」についてご紹介したいと思います。

フェイクは偽造するという意味ですが、この言葉が話題になったのは、2017年にトランプ大統領の就任とともに報道官に任命されたショーン・スパイサー氏の発言です。

2017年1月20日にアメリカ合衆国議会議事堂の前で行われたトランプ大統領の就任式について、翌日、スパイサー報道官が「現地で見物した人数も、メディアを通じて世界で見物した人数も過去最大であった」と発表しました。

ところが、実際は2009年のオバマ大統領のときが180万人で、トランプ大統領のときは25万人、多目に見ても60万人でした。

記者から、この事実を基に突っ込まれたスパイサー報道官は、今回は会場入口に金属探知機を設置したので、入場に時間がかかったからだと説明しましたが、オバマ大統領のときは設置していたのですが、トランプ大統領のときには設置していなかったのです。

また、テレビジョンで見た人もオバマ大統領のときの3780万人に対してトランプ大統領のときは3060万人というように、すべて間違った情報で、この頃から「ファエイクニュース」、偽のニュースという言葉が流行しはじめました。

このような情報は調べれば事実がわかるので罪が軽いかもしれませんが、最近、インターネット上に、本物か偽物か簡単には見破ることのできない映像が登場するようになりました。それが「ディープフェイク」です。

★偽情報

ディープは深いという意味ですが、このディープは人工知能で使われているディープラーニングを使用する技術なので、その技術を応用した偽情報という意味で作られた名前です。

方法を簡単に説明すると、特定の人物の口や目の動きをディープラーニングいう人工知能の技術に学習させ、その知識を基に言葉に合わせて顔の表情や口の動きを合成して動画を作成するという方法です。

最初は今から1年半前の2017年の秋にポルノビデオの顔だけを有名ハリウッド女優に置き換えた映像が登場したのですが、それを作成した人が「ディープフェイクス」と名乗ったことから「ディープフェイク」という言葉が定着しました。

このような顔をすげ替えたポルノ写真ははるか昔から存在していたのですが、動画になったので一部で話題になりつつありました。

当初はディープフェイクを作るためにはそれなりの装置と技術が必要だったのですが、昨年1月にPCで簡単にディープフェイクを作ることのできる「フェイクアップ」というソフトウェアが公開され、誰でも簡単に作成できるというブレークスルーが発生し、その時期にユーチューブがディープフェイクの専用チャンネルを設定したことも影響し、急速に広まるようになりました。

★ディープフェイクの例

一気に注目されたのは昨年(2018年)の4月にオバマ前大統領が画面に登場して「トランプ大統領は救いようのない間抜けだ」と発言している動画でした。

これはいたずらで作られたのではなく、ディープフェイクが如何に社会に脅威をもたらすかを世間に知らしめる目的で作られたものです。

さらに今年6月にはフェイスブックのCEOであるマーク・ザッカーバーグ氏が「私は多くの人々を繋いだのではなく、人々のデータを使って個人の動きを知りたいのだ」と演説している16秒間のビデオがインスタグラムで公開されました。

これらも問題なのですが、アメリカでは個別の政治家の攻撃に使われ始めたという問題が発生しています。

今年5月には民主党に所属するナンシー・ペロシ下院議長が酔っ払って演説しているようなディープフェイク画像がアップされ、短期間で250万回もアクセスされています。

ちなみにこの画像は出来があまり良くないので「チープフェイク」とも呼ばれています。

さらに、民主党の次期大統領候補で、今の所、支持率がトップのジョー・バイデン上院議員のホームページとそっくりのホームページが作られ、そこにバイデン氏が小さな子供に無理やりキスをする動画などが掲載されています。

これらが社会で日常的に使われるようになると、様々な問題が発生します。

まず、2016年のアメリカの大統領選挙にロシアが関与したという問題以上に政治、とりわけ選挙に影響を及ぼす可能性があります。

さらにロシアのプーチン大統領が話しているディープフェイク画像も流布していますが、その偽りの演説などが国際情勢に影響する可能性もあります。また犯罪に使用される可能性もあり、音声だけのディープフェイクではすでに被害が発生しています。企業のCEOの音声を合成して、部下に緊急に送金するようにと命令するオレオレ詐欺が登場し、すでに何社かが被害にあっています。

★ディープフェイクを防ぐために

当然ですが、対策の検討が始まっています。

一つは法的に規制することで、アメリカのヴェージニア州ではディープフェイクを使ったリベンジポルノの使用を禁止し、破った場合には禁固刑や罰金刑にするようにしています。

さらに連邦議会でも、加工されたコンテンツを公開する場合は、それが加工された内容であることを削除不可能な方法で告知することを義務付ける法律を検討しています。もう一つは、もともと人工知能が作る映像だから人工知能に見破らせようという研究が進んでいます。

現状ではディープフェイクは口や目の動きを学習して、特定の人の顔の表情や音声を合成しているのですが、人間は話すときに、手や体なども無意識に動かしています。そのような個人のクセまで本物と一致しているかを人工知能に判断させる方法が研究されており、アメリカの大学の研究では92%の確率で見破るところまで来ています。

悪のロボットと正義のロボットが戦うSF映画は昔から作られていますが、今やインターネットの中で正義の人工知能と悪の人工知能が戦う時代が登場しはじめたのです。

月尾嘉男の日本全国8時ですhttp://radiko.jp/share/?sid=TBS&t=20190815080130

radikoで放送をお聴きいただけます(放送後1週間まで/首都圏エリア無料)