ネットに出回るそれっぽい画像、本物か偽物か全部わかります？
わかりませんよね。
AIで本物そっくりな偽写真や偽映像や偽録音（＝ディープフェイク）を簡単に合成できちゃう時代。そういうのが証拠品として出されてもふつうの人では見分けられないんじゃないかと、米アリゾナ州高等裁判所のPamela Gates判事も言っています。
昔なら被害者が傷だらけの腕の写真を示せばそれが動かぬ証拠となって裁判は終わっていました。
ですが、今は被告に｢ディープフェイクです｣と反論されたら裁判は一旦休止で、本物かどうかの検証で何日も足踏み状態になります。会話の録音も｢自分の声そっくりだけど、そんなの話した覚えない。ディープフェイクだ｣と言われたらそれまでです。また検証が必要。
なのに、法廷にはディープフェイクを見分けるような設備はまだなくて、判事（AIが生成した証拠をどう扱うかを検討する同州裁判所諮問委員会委員長）の不安は募るばかりです。
｢昔はこの目で見れば、あとは自分の常識や発生状況、自分の目をもとに今より正確な判断ができました｣｢そんな目で判断できる時代はとっくの昔に終わってます｣（Gates判事）
AIの爆発的な広まりを受けて、アメリカでは有識者から法廷証拠の規制改正を求める声も出ました。
提案（一部は今月連邦裁判所諮問委員会で協議された）が通れば、裁判の前に証拠が本物かどうかを調べる責任は、陪審員の分担が減って判事も持つことになります。
というのも今のままでは｢真贋の見極めは陪審員に委ねられている｣と語るのは、コンピュータと法律が専門のMaura Grossman教授（Paul Grimm連邦裁元判事とともに、ディープフェイク時代に即した規制改正案を書いた人）。
｢でもちょっと待てよ、というのがわれわれの主張です。こんな重大なこと頼まれたら陪審員の負担は相当なものだし、その記憶はずっと消えません。だからもっと法廷の権限を拡大しないと。大きな変化になりますが｣
印象操作＆時間稼ぎの道具
たしかに、音声と映像の証拠って説得力あるので、一度見ちゃったら、なかなか記憶から拭い去ることはできませんものね。
これとは別の改正を提案しているロヨラ法科大学院副学部長のRebecca Delfino法学教授にも話を伺ってみたら、こんな論文があるよと教えてくれました。
内容は、捏造された映像を目にすると目撃者はいとも簡単に嘘の証言をする、映像と音声で証拠を見せられたほうが生の証言を聞くよりも6倍以上の確率で陪審員の頭に残る、というものです。
捏造っぽい証拠を除外する権限は、すでに判事の側にもあるんですが、陪審員に見せていい証拠と見せてならない証拠を分ける基準はゆるゆるなのが現状。今の連邦規則だと、一方が｢自分の声じゃない。その録音はフェイクだ！｣と主張しても、他方は、その人の声を知ってる誰かに電話1本かけて｢声が似ている｣と証言してもらえばそれでOK。証拠品として陪審員に回っちゃうのだとGrossman教授も言ってました。
今のディープフェイクは音声も画像も映像もかなり本物に近くて、オレオレ詐欺でも親がコロッと騙されたりしています。こんなゆるゆるなバリアでは簡単に突破されてしまうじゃないか！というのが、改定推進派の懸念というわけです。
あと｢その証拠はフェイクです！｣と主張する嘘つきどもから陪審員を守る、という狙いもあります。いわゆる｢嘘つきの配当（嘘とわかっていても人の印象は変わる＝広めたもん勝ち）｣の印象操作から裁判を守ろうって意図ですね。
大きな判例でそういう現象はすでに起こっています。たとえばトランプが前回選挙に負けたときの議事堂占拠の裁判でも、証拠品として提示された犯罪の決め手となる映像に、原告が｢そんなのフェイクだ！｣と主張してました。Teslaの手放し運転で起こった死亡事故をめぐる民事訴訟でも、イーロン・マスク弁護団がマスクCEOの昔の映像（Teslaの自動運転技術を自慢している）が｢AIの捏造だ！｣と言ってましたっけ。
このように、最近は｢映像・写真・音声の証拠品が裁判に提示されるたびにニセモノだ！と言われる可能性と隣り合わせ｣なのだとDelfino教授。｢裁判が長引くだけならまだしも、これで陪審員が大混乱に陥る実害もあります。悪知恵のはたらく弁護士なら、この手を使って陪審員を混乱させて“自分じゃ判断がつかない”と匙を投げるまで追い込む。これも大いにあり得るリスクです｣。
提案が通ればどうなるの？
Grossman教授とGrimm元判事が起草した改正案は11月8日、連邦裁判所証拠関連規則諮問委員会の審議に諮られました。提案が通れば、証拠の信ぴょう性を問う被告人側がまず陪審員を説得できるに足る十分な証拠を判事に示し、証拠を出した側もその裏付けを提示します。
で、双方の主張を聞いたうえで判事が裁判前のヒアリングで証拠能力（陪審員に当該証拠を見せることで生じる偏見や害よりも、見ることで事実関係の理解が深まる利益のほうが高いかどうか）を決める、という流れになります。
Delfino教授側の提案（法学ジャーナルで公開されているが委員会への提出はまだ）では、ディープフェイクの問題を陪審員の手から完全に引き離す内容となっています。
まず証拠がAIによる捏造だと主張する側が、裁判開始前に専門家から鑑定結果を取り寄せて提示。裁判官が鑑定結果・論述、証拠の優越性をもとに証拠品として採用するかどうかを判断。係争中は｢本物の証拠｣としてこれを扱うよう、判事が陪審員に指示します。
さらにDelfino教授の提案では、｢そんなのディープフェイクだ！｣と主張する側が鑑定費用を負担することになってます。そうすればコストもかかることだし、安易にフェイク！フェイク！と叫べなくなるだろう、との判断。もちろん、お金持ちだけエコひいきになっちゃいけないので、費用を負担できない経済状況の人には裁判官がこれを免除して、フェイクと言われた側が費用を負担することもあり得ますけどね。
今すぐには変わらない
どっちみち改定までには何年もかかります。まずいろんな委員会の承認を得ることが必要だし。最終的には最高裁のOKも要りますからね。
目下、ディープフェイク関連の提案は、証拠規則諮問委員会のところで止まってしまってます。
委員会で証拠品問題の調査を担当する、フォーダム大学ロースクールDaniel Capra教授も、変更する前にまずは今の規則の範囲内で、判事がどうディープフェイクに対処するかを見極めたいという慎重姿勢でしたが、最近の報告書では｢ディープフェイクは真の転換点。それに則した（新しい）ルールが要るかもしれない｣と付記しています。
アリゾナ州ではGates元判事のAI捏造証拠対策委員会が中心となって、法廷で導入できる技術的ソリューションがないかを検討中です。学会、政府の解析専門家、テック大手がフェイク検出テクノロジーの開発を急げば、生成型AIの開発者は偽コンテンツ検出ツールや、生成段階でデジタルの透かしを入れる技術の開発を進めていて、まるで軍事開発レースの様相。
でも｢まだ法廷で使えるようなものはひとつもないと思う｣というのが、検出ツールをいろいろ見てきたGates元判事の実感です。
ディープフェイクに詳しいノースウェスタン大学コンピュータ学科教授のV.S. Subrahmanian氏のチームが行なった、最新ディープフェイク検出ツール4種のテスト結果も見てみたんですが、惨憺たるものでした。捏造の映像なのに本物と誤判定されたケースが71～99%もあったんです。ダメじゃん…。
透かし技術も、普及に時間がかかるだろうし、そんなにまだ信頼性も高くないので、少なくとも今すぐ解決にはならないというのが氏の意見。｢どんな手を使って保護しても、それを破る方法を見つけようとする人はかならず出てくるものですからね｣と言ってました。
先立つものがなくて、まともな裁きを受けられない状況も
まだ法廷でディープフェイクとまともに向き合う問題が生じるケースは、まだそう多く報じられていません。
目立ったところでは、先に述べた議事堂占拠裁判、イーロン・マスクの民事訴訟。あとはペンシルバニア州で2021年に起こった｢母親が娘のライバルを蹴落とすため、同じチアリーダー部の女子が裸で酒を飲んで喫煙して部活規則に違反したディープフェイク映像を広めた容疑｣で逮捕された事件が有名です。
あの裁判では、母親のSpone被告が｢フェイクじゃない！｣と主張。弁護側は｢お金がなくて鑑定士は雇えない｣と言ってました。するとニュースを見た鑑定士の一団が｢だったら無料で鑑定したるわー！｣と名乗り出て鑑定。そしたらなんと本物の映像だったのです。
こうして裁判が真っ逆さまに覆り、検察側がディープフェイク映像の部分に関して起訴を取り下げる結果に終わっています。みんながみんな、こういうラッキーな結末に終わるとは限りませんよね。
当のSpone被告もいまだに狂った毒親みたいに扱われていて、｢ペンシルバニア、チアリーダー、ディープフェイク｣で検索すると、逮捕時の容疑事実がそのまま報じられた記事が一番上に出てきて気の毒です。
米Gizmodoが取材した判事・法律の専門家が一番心配しているのは、こういうニュースにもならない事例の当事者です。特に家庭裁判所。弁護士をつけない被告や原告も多いし、鑑定を頼む余裕のないケースも多々ありますからね。
｢家庭裁判所で判事の前に立って、“私も子どもも夫に脅迫されていました。証拠の録音テープもあります”と主張したとします｣｢（ディープフェイク混入の可能性もある）今の状況で判事は一体どうすればいいのか。どんなツールが使えるというのでしょう。そんなツールない、というのが今の状況です｣（Grossman教授）
