AIが生成した超精巧なニセデータ・ディープフェイクを検出するプラットフォーム「Reality Defender」

世界トップのAI研究チームが1億以上の動画・画像・音声アセットをベースに構築した、人工知能(AI)で作成された偽の画像・動画・音声であるディープフェイクを検出するプラットフォームが「Reality Defender」です。ユーザーはReality Defenderが提供するウェブアプリあるいはAPIを介してアセットをスキャンするだけで、ディープフェイクが混ざっていないかを検出できます。

Reality Defender
https://www.realitydefender.ai/

ディープフェイクが最初に大きな話題となったのは2017年末のこと。世界的な有名女優のポルノムービーをディープフェイクで作成したものがポルノサイト上で出回り、「フェイクポルノ」として話題に。ただし、フェイクポルノに対してはすぐに規制が設けられ、フェイクポルノが誕生したRedditでも登場からわずか3カ月で投稿が禁止されました。

AIで有名女優のポルノ動画を作成するプログラマーが登場、まるでリアルのような完成度 – GIGAZINE

その後のAIの進化は著しく、ディープフェイクを用いた架空のモンスターや架空のそっくりさん、アニメ美少女などを作成するツールやサービスが登場。こういったディープフェイクに対抗するためのテクノロジーを、MicrosoftやFacebook、マサチューセッツ工科大学の研究員などが作成していることも明らかになっています。

そんなディープフェイクに対抗するためのプラットフォームがReality Defenderです。Reality Defenderはアメリカ国土安全保障省・アメリカ国防総省・アメリカ陸軍・アメリカ合衆国シークレットサービスなどの政府機関、ABC.comやThe Washington Post、WIRED、ProPublicaなどの報道メディア、MicrosoftやLinkedIn、Facebook、BOSEなどの企業と提携しており、これらの組織がデータの真偽を判断する支援も行う模様。

Reality Defenderの開発者であるBen氏、Gaurav氏、Ali氏の3人は、「機械学習の最新の進歩により、実際の人々が言ったり行ったりしたことのないような画像・動画・音声を作成することができるようになりました。このテクノロジーの最新の普及により、誰もが非常にリアルなディープフェイクを作成できるようになりました。一部のディープフェイクは、経験豊富な観察者ならば判別することが可能ですが、多くの人はそういった経験がないか、常によく見ているわけではないため判別が難しいものです。つまり、悪意のある人物がディープフェイクを利用すれば、現実を歪め、金融取引や個人およびブランドの評判、世論、さらには国家安全保障さえも危険にさらす可能性があります」とHacker News上に記しています。

Reality Defenderの開発者であるBen氏、Gaurav氏、Ali氏の3人はハーバード大学、ニューヨーク大学、カリフォルニア大学ロサンゼルス校出身のデータサイエンティストとして、ゴールドマン・サックス、Google、CIA、連邦預金保険公社、国防総省、ハーバード大学応用研究などで、機械学習とサイバーセキュリティの分野で数十年の経験を積んできました。3人は初め、iPhoneからディープラーニングを用いてディープフェイクを作成する方法を開発しており、これが想像以上に簡単かつ精巧だったことから、「本物とディープフェイクを見分けるモデルの作成に取り掛かった」と記しています。

しかし、ディープフェイクを検出するモデルの作成に取り掛かったことで、「モデルの開発が非常に難しいことがよくわかった」と開発者たちは記しています。さらに、「FacebookやMicrosoftといった企業は、銀の弾丸と呼べるような単一モデル、つまりは『すべてを解決できるような単一のモデル』を構築しようとしていたためです。私たちの見解では、ディープフェイクの基盤となる技術は常に進化しているため、このようなアプローチはうまくいきません。これはマルウェア問題を解決するための単一のモデルが存在しないことと同じです」と記し、ディープフェイクを検出するためのモデルの複雑さを強調しています。

この問題を解決するため、ディープフェイク検出アルゴリズムを集約した「マルチモデル」アプローチが必要だと3人の開発者は主張。Ben氏、Gaurav氏、Ali氏の3人はディープフェイク検出モデルの中で最もスコアが高かったものと、Microsoftやカリフォルニア大学バークレー校といった提携組織が作成したモデルを統合し、スケーラブルなソリューションを構築し、これをウェブアプリとして利用できるようにしたそうです。また、このウェブアプリを通して「ウクライナや欧米に向けたロシア発の偽情報」「銀行幹部が電信送金を依頼する偽の音声」「マレーシアの政府指導者のスキャンダラスな行動の映像」「フェイクポルノ」などを検出することに成功したとしています。

加えて、ディープフェイク技術の進化に対応するため、サードパーティーモデルを取り込み、モデルスタックに統合できるように調整すると記しています。