ディープフェイクとは

ディープフェイク(deepfake)とは、AIによる「深層学習」(deep learning)と、偽物を意味する「フェイク」(fake)を組み合わせた造語。

機械学習アルゴリズムの深層学習(ディープラーニング)の技術を活用し、既存の画像や映像を、別の画像や映像に重ねさせて偽の画像や動画を生成させる技術をさす。ディープラーニングを用いたフェイク動画(または画像)から「ディープフェイク」と呼ばれるが、単にフェイク動画のことをさす場合もある。

元の映像に、別の映像を結合させることで、実在する人物が、実際には起こっていない架空の出来事を実行したり、発言したりする偽の映像が生み出されることになる。

ディープフェイクの発端は、2017年ごろ、AIを使ったフェイク動画が米国のソーシャルニュースサイト(掲示板)である「Reddit」にアップロードされたことだといわれる。有名女優の顔だけを、既存のポルノ動画に貼り付けたものが作成、共有されていたが、その後、ポルノ動画の顔の部分を別の人に入れ替えるフェイク動画は社会問題化している。

サイバーセキュリティ会社のDeeptraceによれば、2019年にネット上で確認されたディープフェイク動画の数は14,000を超え、前年比で84%以上も増加しているという。

また、政治家のディープフェイク動画によって、事実と異なる発言がねつ造されるケースなど、政治的な利用に関する懸念も指摘されている。

法規制に向けた動きもあり、米国のバージニア州やカリフォルニア州では、ディープフェイクによるリベンジポルノ(元交際相手が相手の裸の写真や動画などをインターネットなどに公開すること)を禁じることや、選挙期間における政治的なディープフェイクの作成などを規制する動きが進んでいる。

こうした法規制が表現の自由を脅かすのではないかという議論もあり、ディープフェイクに対する注目は今後も高まっていくことが考えられる。

なお、サイバーセキュリティ企業のESET(イーセット)が発表した2020年のサイバーセキュリティトレンド予測レポート「Cybersecurity Trends 2020: Technology is getting smarter - are we?(2020年サイバーセキュリティトレンド:テクノロジーは本当にスマートになっているのか?)」によれば、2020年にグローバルで影響を及ぼすと予測されるトレンドの一つに機械学習を挙げ、ディープフェイクなどのテクノロジーがサイバー犯罪者に悪用される可能性を指摘している。

セキュリティ用語辞典一覧ページへ

関連キーワード:

AI

deep learning

deepfake

Deeptrace

ESET

fake

Reddit

アルゴリズム

サイバーセキュリティトレンド

ディープフェイク

フェイク

フェイク動画

偽物

機械学習

深層学習