AIによるフェイク画像判定プログラム「SYNTHETIQ VISION」をサイバーエージェントがタレントの偽画像検出に採用、国内初の実用例 

INTERNET Watch

SYNTHETIQ VISIONの概要

 大学共同利用機関法人 情報・システム研究機構 国立情報学研究所(NII)は、同シンセティックメディア国際研究センターが開発した、AIが生成したフェイク顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION(シンセティック・ビジョン)」を株式会社サイバーエージェントが採用し、タレントなどの著名人のディープフェイク映像検知で実用化したと発表した。

 サイバーエージェントが芸能事務所や著名人向けに展開している、著名人の公式3DCGモデルを制作し「分身」となるデジタルツインをキャスティングするサービス「デジタルツインレーベル」において、著名人のディープフェイク映像の悪用を検知する目的で採用されたもの。NIIによると、AIにより生成されたフェイク顔映像を真偽自動判定する技術が実サービスに導入されたのは、国内初めての事例だという。

 近年、顔や音声、自然言語などの人間由来のデータを大量にAIに学習させることで、本物にそっくりな顔映像や音声、文章といった「シンセティックメディア」と呼ばれるデータの生成が可能になっている。このような技術は社会を豊かにする一方で、悪用される可能性もあり、特に映像中の人物の顔を他人の顔に置き換えたディープフェイク映像による偽情報の流布が、現在では社会問題になっているとする。

 SYNTHETIQ VISIONのもとになる技術は、国立研究開発法人 科学技術振興機構(JST)の戦略的創造研究推進事業(CREST)である「VoicePersonae:声のアイデンティティクローニングと保護」、「インフォデミックを克服するソーシャル情報基盤技術」および、JST研究成果最適展開支援プログラムA-STEP(トライアウト)である「AIにより生成された顔映像フェイクメディアを検出する技術の確立)」により開発された。大量のデータに基づく自動識別によるモデルで、人間による分析などを一切必要としない手法だという。さまざまな画質の映像を学習しているため、画質が低下した映像でも一定の信頼度による判定を行うことができるとしている。

 この技術を、ほかのアプリケーションへ容易に導入できるパッケージとして開発されたのがSYNTHETIQ VISIONとなる。NIIでは、今回のサイバーエージェントによる本プログラムの導入は、AIを活用したサービス(AiaaS:AI as a Service)として実現した事例であり、流通する多様なメディアの信頼性確保に寄与するものだとしている。

Source