お使いのOS・ブラウザでは、本サイトを適切に閲覧できない可能性があります。最新のブラウザをご利用ください。

放送中

放送中


  • 放送ログ
  • 音声あり

ディープフェイクは、善か悪か。新たな技術が写す、倫理的な課題

森本毅郎 スタンバイ!

新型コロナウィルスの影響で在宅勤務が増え、オンライン会議を利用している方も多いと思います。そんな中、AIの「ディープラーニング」の技術を活用した、ビデオ通話に使える新たなサービスが登場。そこで、ディープラーニングと、いま問題視される偽動画について、11月5日TBSラジオ「森本毅郎・スタンバイ!」(月~金、6:30~8:30)の「現場にアタック」で、レポーター田中ひとみが取材報告しました。

 

田中ひとみの現場にアタックhttp://radiko.jp/share/?sid=TBS&t=20201105073530

radikoで放送をお聴きいただけます(放送後1週間まで/首都圏エリア無料)

 

まずは、ビデオ通話に関する新たなサービスについて、株式会社EmbodyMe(エンボディーミー)のCEO、吉田一星さんのお話。

★寝巻き姿で会議に出席

株式会社EmbodyMe・CEO 吉田一星さん
「エクスプレッションカメラ」というサービス。あらゆる人になりきって、ビデオチャットできたり、ユーチューブのビデオを作成できるアプリ。どんな画像でも、1枚用意するだけで、その中の人の表情を乗っ取ってリアルタイムに動かせる。例えば自分のスーツ姿の画像を使えば、自分が寝巻き姿でも、ビデオ会議に臨むことも可能。あと自分の小さい頃の写真を使えば、実際37歳のおっさんなんですけど、表情豊かに動かすことができる。「ディープラーニング」で顔の詳細な表情を読み取っているので、凹凸や鼻の高さなど、詳細な3Dの形状を読み取って、画像の中の人に反映させる。
森本毅郎スタンバイ!

吉田さんの幼少期の写真を使ってズームでトーク。口もぱくぱく、まばたきも自然でした

森本毅郎スタンバイ!

続いて、モナリザに成り切って会話。話に合わせて、頭もいい感じで揺れていました

森本毅郎スタンバイ!

赤ちゃんも表情豊か

森本毅郎スタンバイ!

とういことで、実際の吉田さんの素顔はこちら。吉田さんの表情をパソコンのカメラが捉え、画像を動かしていました

こちらは、9月末に発表されたばかりの「エクスプレッションカメラ」というアプリです。アプリをダウンロードして、あらかじめ自分が成り代わりたい画像や動画を用意しておけば、カメラで捉えた自分の表情をリアルタイムに反映させて、動かすことができます。ばっちりスーツで決めた自分の写真を1枚用意しておけば、ボサボサ頭でも、お化粧しなくても、綺麗な姿でオンライン会議に参加可能。

また、従来の顔認識技術は、二次元で70点ほどの顔のポイントしか認識できなかったそうですが、こちらの技術は三次元(3D)で、およそ5万点の顔の形状が認識できます。このユーザの顔認識と、それを画像として生成する処理は、わずか0.01秒の間に行われ、「ディープラーニング」と呼ばれるAI(人工知能)が使われています。

★プーチンがバイデン批判?拡散されるディープフェイク

ただ一方で、このディープラーニングを悪用し本物そっくりの偽動画に加工する「ディープフェイク」の問題が、2020年の大統領選のさなか、世界で広がっています。情報セキュリティ大学院大学の教授、湯淺墾道(ゆあさ・はるみち)さんのお話。

情報セキュリティ大学院大学・教授 湯淺墾道さん
新しい技術は、便利と悪用がセットで発展。今回の大統領選挙では、プーチンが「トランプが勝てばアメリカが良くなる。バイデンが勝つと危機に陥る」と、あたかもプーチンが喋っているようなディープフェイクが流れた。ただ、ディープフェイクを選挙関係で流すのを禁止する州もあって、選挙の前は、選挙関連の加工した動画像を流したり、作ってはならない、違反した場合は罰金、というような州も。前回、2016年の大統領選では、文字や画像情報だったが、今回は完全に動画像にこの4年で技術が進歩。法的な規制をしてなかったら、もっと大量のディープフェイクが出回っていたはず。

アメリカでは以前、オバマ前大統領が、トランプ大統領のことを「能なし」と言ったように見えるディープフェイク動画が拡散されたり、野党民主党のナンシー・ペロシさんが酔っぱらって聞こえるように加工された偽の動画が、SNSで拡散されたことがありました。そのため今回の大統領選挙では警戒感が高まっていて、例えばテキサス州では、選挙前の一か月間、トランプ・バイデン両氏に関する偽動画の作成やシェアを違法と認定。フェイスブックやツイッター社も、見つけ次第、削除したり、自主規制の動きも広がっていたようです。

ただ、難しいのは、ディープフェイクの作成の全てを禁止する事に対して、それが風刺なのかパロディなのかと言う、「表現の自由」の問題が出てくる点。日本でも、詐欺に使われたり、肖像権の侵害になったりなど、別の容疑で摘発されていますが、ディープフェイクそのものを「法的にどう扱うか」というのは、今後の課題という事でした。

★”死者を蘇らせる”のは有りか無しか。問われる倫理観

とはいえ、世論操作や犯罪に利用され始めているディープフェイク。もちろん、これを見破るための技術開発も国内外で進められているようですが、それを超えるディープフェイクも開発されるなど、現状はいたちごっこ…。湯淺さんは、ディープフェイクが直面している別の問題も指摘していました。

情報セキュリティ大学院大学・教授 湯淺墾道さん
例えば、亡くなくなった方の生前の動画を利用して、生きているようにメッセージを発することもできる。現実に大統領選では、銃の乱射事件で亡くなった高校生の生前の動画を利用して、亡くなった生徒の父母が、息子のディープフェイクをユーチューブに流した事例も。「アメリカではもっと銃を規制した方がいいと思う」とまるで生きているかのような動画を流した。ただ、死者のディープフェイクは良いのか悪いのか、法律の問題より倫理観の問題。「生きている人」、「死んでいる人」の境界が曖昧になってきてるところに、「本物」と「作り物」の境界も曖昧になってきていて、二重の難しい問題になりつつある。

亡くなった方のディープ動画と言えば、昨年の紅白歌合戦で登場した「AI 美空ひばり」で賛否が別れたように、複雑な気持ちになるもので、ディープフェイクは「倫理的な問題」もあると。

という訳でこの技術は、法的にも、倫理的にも課題がありますが、決して悪いディープフェイクばかりでなく、良いディープ動画もあって、例えば全身が動かなくなるALSの患者が、まだ喋れるうちに、本人の声と表情を学習させることで、しゃべれなくなった後も、コミュニケーションがとれると言う話も持ち上がっているそうです。色んな可能性を秘めている技術であるからこそ、今後の議論が必要そうです。

田中ひとみ

田中ひとみが「現場にアタック」でリポートしました!