「団体の最高財務責任者がお金を横領した」という虚偽が出力されたのは名誉毀損(きそん)にあたるしたとして、虚偽の疑いをかけられた当事者の男性がChatGPT開発元のOpenAIを訴えました。
OpenAI Sued For Defamation Over ChatGPT ‘Hallucination’; But Who Should Actually Be Liable? | Techdirt
https://www.techdirt.com/2023/06/08/openai-sued-for-defamation-over-chatgpt-hallucination-but-who-should-actually-be-liable/
OpenAI sued after ChatGPT falsely claims man embezzled money • The Register
https://www.theregister.com/2023/06/08/radio_host_sues_openai_claims/
ジャーナリストのフレッド・リール氏がある裁判の告訴状を要約してもらおうとChatGPTに入力したところ、ChatGPTは「憲法修正第2条財団(SAF)の創設者であるアラン・ゴットリーブが、SAFから資金を横領した疑いで告発されている最高財務責任者マーク・ウォルターズに対して提出した法的訴状である」という内容を出力しました。
しかし、リール氏が知りたかった裁判の内容は本来、銃の権利を守る団体であるSFAが、ワシントン州のロバートファーガソン司法長官とジョシュア・ステューダー司法次官補を訴えたものでした。
このためリール氏はChatGPTに、訴状の中のウォルターズ氏に関連する情報を出力するよう求めました。するとChatGPTは「被告のマーク・ウォルターズはジョージア州在住で、少なくとも2017年からSFAの最高財務責任者・財務担当者を務めています」と回答。さらに、リール氏の求めに応じて「ウォルターズ氏が訴えられた」という証拠の訴状まで出力しました。
問題の訴状。内容は整理番号も含めてすべてでたらめです。
しかし、リール氏が念のため原告であるアラン・ゴットリーブ氏に確認を取ったところ、そのような事実は存在しませんでした。また、ウォルターズ氏はSFAの財務担当だったどころか、SFAに所属したこともないラジオ司会者でした。
このことからウォルターズ氏は、ChatGPTが虚偽の内容で自分の名誉を毀損したとして訴えを起こしました。
ウォルターズ氏側弁護士のジョン・モンロー氏は「AIの研究開発には価値がありますが、人々に関する『事実』をでっちあげるとわかっているシステムを一般公開するのは無責任です」と述べています。
ChatGPTを名誉毀損で罪に問えるのかという点について、ニュースサイトのTechdirtは「そもそも、問題の虚偽情報を目にしたのはリール氏1人であり、そのリール氏自身も『ハルシネーション』(AIによる幻覚)を疑って確認を取っています。名誉毀損にあたるのでしょうか？」と疑問を呈しています。
また、ニュースサイト・GIZMODOもカリフォルニア大学ロサンゼルス校法科大学院のユージン・ヴォロック教授の言として、裁判に勝つ可能性はあるものの、原告が立証すべき「どのように評判が傷つけられたのか、損害を被ったのか」が示されていないと指摘しています。
OpenAIは当初から、ChatGPTは「それっぽいけれど間違ったことを出力することがある」と警告し続けていて、学術誌や国際会議では使用を禁止しているところもあります。
ChatGPTは高性能な対話ができるのになぜデタラメな回答をすることがあるのか？ – GIGAZINE
この記事のタイトルとURLをコピーする
