Bay Area Tech Blog #23
Facebookとミシガン州立大学がDeepfakeを見破る新たな手法を発表
Facebookとミシガン州立大学の科学チームが共同でDeepfakeを見つける新たな方法を発見したと発表しました。
これまでにもDeepfakeを見つけるツールはマイクロソフトの「Video Authenticator」などがリリースされていますが、Facebookとミシガン州立大学の手法はDeepfakeを検出するだけでなく、リバースエンジニアリングを用いて、発信元をピンポイントで特定することができるようになるとのことです。
発信元が特定できれば、そこに対してフィルターをかけて防御することが可能になるでしょう。Facebookのようなソーシャルメディアやその他のコンテンツプロバイダーが持っているフィルタリング機能を使って、いまよりも効率的にDeepfakeを防ぐことができそうですね。
Deepfakeとは
Deepfakeとは、ディープラーニング技術を用いて生成した(偽の)画像や映像を利用して、人を騙したり、おとしめたりすることの総称です。Deepfakeの特徴は、なんといっても、ディープラーニング技術を用いていることです。ディープラーニングというのは、AIの中でも機械学習の中間レイヤーを増やすことで、より難しい問題を解いたり、正解率の精度を上げたりできる技術を指します。
つまり、ディープラーニングを使って生み出した精度の高いニセの情報 ＝ Deepfake なのです (ざっくりとした説明ですいません)。
より詳しいDeepfakeのご説明は、2021年6月7日に東京大学発のベンチャー企業NABLASが、「ディープフェイクと生成ディープラーニング」と題した素晴らしい技術資料を (なんと) 無償公開していますのでご参照いただければと思います。
ちなみにですが、AIそのもののご理解でしたら書籍「AIリテラシーの教科書」もおすすめです！
どうやって発信元を発見するのか？
では、どのように発信元を特定するのかといいますと、Deepfakeの画像や映像を作り出す時に使用したAIモデル(もしくはAIプログラム)に残っている痕跡を見つけだすようです。Deepfakeを作り出すためには、前述のとおりディープラーニング技術を用います。そして、出来のいいDeepfake用のAIモデルを作成するには複雑なレイヤーを構成して、ものすごく洗練されたものにする必要があります。
Facebookによりますと、Deepfake画像の色スペクトルにある小さなノイズやわずかな癖などにパターンがあり、それはAIモデルによってユニークなものになるといいます。あたかもAIモデルに残された指紋に例えられています。
具体的にはFacebookが開発したフィンガープリント推定ネットワーク (fingerprint estimation network :FEN)にDeepfake画像を通します。そして、Deepfake画像が生成される時に用いられたディープラーニングの生成モデルを識別します。実際にどのようなモデルが利用されているかについては、無限の可能性があるので、FENでは教師なし学習にて推定しているとのことです。
Facebookの言葉を借りれば、このDeepfakeを見破る技術は、「聞いたことのない新車であっても、その音から車の部品を認識するようなもの」だそうです。
米国ではFBIがDeepfakeを警告
FBIは、2021年3月にPrivate Industry Notification (PIN:民間企業向けの通知)を発表し、「悪意のあるアクターは、今後12～18ヶ月の間に、ほぼ確実に合成コンテンツを利用して、サイバー犯罪や海外への影響力を行使する」と警告を出しています。こちらの警告文によると、「ロシア、中国、中国語圏の人たちが、Deepfakeを用いて実在しない人物のプロフィール画像を本物そっくりに作成し、オンラインユーザーにメッセージをより信憑性のあるものに見せようとしている」のだそうです。
Wall Street JournalでAI部門の編集長を務める John McCormick氏も、「米国内には法律や規制があり、(Facebookが開発したような)優秀な調査技術もある。気をつけないといけないのは、外国の政府もしくは犯罪者がDeepfakeを使って、米国民にとって良くないメッセージを 送りつけることだ」と話していました。
どうやら米国内では、Deepfakeに関して海外からの攻撃に対して警戒を強めているようです。
まとめ
米国内では、ロシアや中国がDeepfakeを使っての情報操作あるいは陰謀論など悪意ある情報を増殖させることについて、すごく警戒していると感じます。FacebookがAIモデルから作成元を発見できるように研究を進めていたのも、実際にロシアなのか中国なのかをつきとめることが目的だと思われます。
米国が狙われるなら、私たちも気がつかないうちにDeepfakeによって情報操作されている可能性も否めません。Facebookが開発したような技術を用いて、画像や映像がより安全に楽しめるようになってほしいと願うばかりです。