人間に似せたものを作ったとき、ある程度の再現度までは好感度を高める効果がありますが、一定以上に似ると嫌悪感が一気に高まります。これは「不気味の谷現象」と呼ばれる、脳の働きによるものです。
ところが最新の研究によると、人工知能(AI)は「不気味の谷」を突破して、むしろ「AIが生成した顔の方が信頼できる」と感じるほどの顔を生成できるようになっているそうです。
AI-synthesized faces are indistinguishable from real faces and more trustworthy | PNAS
https://doi.org/10.1073/pnas.2120481119
Humans Find AI-Generated Faces More Trustworthy Than the Real Thing – Scientific American
https://www.scientificamerican.com/article/humans-find-ai-generated-faces-more-trustworthy-than-the-real-thing/
AIを活用した音声・画像・映像の合成、いわゆる「ディープフェイク」と呼ばれるものは、以前であればハリウッド映画級の特殊効果技術でしたが、今や、やろうと思えば誰でも扱えるものになっています。
たとえば、オープンソースのツール「Avatarify」を使えば、ZoomやSkypeで、リアルタイムに他人になりすますことが可能です。
ZoomやSkypeでリアルタイムに他人になりすませるオープンソースのディープフェイクツール「Avatarify」 – GIGAZINE
また、2021年公開の映画「レミニセンス」ではプロモーションの一環として、写真をアップロードするとその人を映画の予告編に登場させるというサービスを実施しました。
映画の予告編にディープフェイクで自分を登場させられるサービスをワーナー・ブラザースが公開 – GIGAZINE
中には「ディープフェイク」作りのうまさを買われて、ルーカスフィルムに職を得た人も現れました。
ルーカスフィルムが「マンダロリアン」のディープフェイク映像を作ったYouTuberを雇用 – GIGAZINE
ランカスター大学の心理学者ソフィー・ナイチンゲール氏とカリフォルニア大学バークレー校の情報科学者ハニー・ファリド氏は、GANを用いて、識別機が本物の顔と見分けがつかないようなリアルな顔を作成。その上で本物の顔写真と合成で作った偽物の顔写真、合計128枚を用いたテストを実施しました。
識別機がちゃんと判定できた顔の例。上段は本物の顔写真、下段は合成顔写真。つまり、下段の顔は「合成だ」とわかってしまうのでダメということ。
識別機がうまく判定できなかった顔の例。上段は本物なのに合成っぽいと判断された顔写真で、下段は合成なのに本物っぽいと判定された顔写真ということになります。
最初の被験者グループは本物か偽物かを分けるだけ。2番目の被験者グループも本物か偽物かを分けますが、テスト実施前に偽物の見分け方の講習が行われました。3番目の被験者グループは、写真を「非常に信頼できる」から「非常に信頼できない」まで7段階で分類しました。
最初の被験者グループの実験の結果、本物・偽物の判定精度は「48.2％」でした。2番目の被験者グループは見分け方を教わったにもかかわらず数字の改善はあまり大きくなく、判定制度は約59％でした。
そして、3番目の被験者グループの実験、本物の顔写真の信頼度は平均4.48でしたが、偽物の顔写真の信頼度は4.82で、AIが生成した顔写真の方が信頼度が高いという結果が出ました。
信頼度スコアが高かった顔写真(上段)とスコアが低かった顔写真(下段)。スコアの横の表記が「R」となっているものは本物の顔写真、「S」となっているものは合成顔写真です。
この結果は研究グループにとっても予想しなかったものだったとのこと。ただし、ナイチンゲール氏は「生成されたすべての顔が本物と見分けがつかないというわけではなく、かなりの数の偽物はぱっと見分けがつきます」と述べています。
「ディープフェイク」を自動検出する技術も開発されていますが、日々アップロードされる膨大なコンテンツへの対策としては精度も速度も不十分で、消費者は自ら本物と偽物を見分けることを求められています。しかし、出来のいいディープフェイクを見抜くことは非常に困難であることが、この研究で改めて示されたといえます。
この記事のタイトルとURLをコピーする
