すでにたくさん議論のあるAI、また新しい問題が出てきました。
AI生成によって書かれた本がある著者の名前で出版されて、Amazonで販売されていました。
名前を使われた著者は、出版業界ではベテランであるジェーン・フリードマンさん。Amazonや他の企業に明確で一貫したポリシーがないことが、将来自分以外の著者たちにも同じような問題に巻き込まれる可能性があると懸念しています。
フリードマンさんは述べています。
「単にリクエストを申請しただけではAmazonは取り下げないだろうと思っていました。SNSで話題になるまでは動かないだろうと思っていたのです。
でも、ラッキーなことに、メディアで取り上げられたおかげでAmazonが削除したのです。
しかし、この問題は誰にでも起こり得えることです。もし誰かの名前を使って他人が利益を得ることができるとして、その名前を使ってゴミのような本を出版した場合のルールが存在しないのです」
As of today, there are about half a dozen books being sold on Amazon, with my name on them, that I did not write or publish. Some huckster generated them using AI. This promises to be a serious problem for the book publishing world. https://t.co/YXcMlJeTMV
— Jane Friedman (@JaneFriedman) August 7, 2023
事の経緯は?
今回の「ゴミ本」事件は、フリードマンさんの読者がAmazonで彼女の名前を使ったAI生成の作品を見つけ、直接フリードマンさんに連絡を取ったことで発覚。
最初、読者はフリードマンさんが新しい執筆スタイルで書いたものなのかなと思ったそうです。
でも、単にスタイルの違いだけではない変な感じに気付き、Amazonに彼女の名前を使った誰か別の人によって書かれた作品が存在しているかもしれないと、フリードマンさんにメールで連絡したのです。
「たくさんの人がその本を見つけていました。実際に何人が購入したかはわかりませんが、少なくとも数冊は買われたと想像しています」とフリーマンさん。
そしてフリードマンさんは、この状況を自分のニュースレターとツイートで発信したのです。
その時点で、彼女の名前を使った本がAmazonで6冊ほど売られているのを発見したとしています。
さらには、本のレビューサイト「Goodreads」に、その偽の本たちが彼女の公式のページにも追加されていました。GoodreadsはAmazonによって運用されているサイトで。読者はここでレビューを見てAmazonで購入するという流れができています。Goodreadsの広報担当者は、これらの本を削除したとコメントしています。
Amazonのイマイチな対応
フリードマンさんは、本を発見した直後にAmazonの公式フォームを通じて著作権侵害の報告を提出し、自動応答メールを受け取ったそうです。
自分の名前で勝手に商売している他人がいることをAmazonに報告すると、Amazonから商標登録番号を求められたとのこと。
しかし、ほとんどの著者は自分の名前の商標など持っていないとフリードマンさんは述べています。
Amazonは当初、AIの作品の著作権をフリードマンさんが所有していないため、コンテンツは削除できないとして侵害報告を終了させたそうです。
しかし、数時間後にAmazonの担当者から再度連絡があり、この件について審査中であることがフリードマンさんに伝えられました。
A brief update: After going back a few times with Amazon on this issue, I was notified the books would not be removed based on the information I provided. Since I do not own copyright in these AI works and since my name is not trademarked, I’m not sure what can be done. https://t.co/F5KuK4F36X
— Jane Friedman (@JaneFriedman) August 7, 2023
こうしてAmazonの対応を待っている間、Twitterで話題となり、Amazonは「終了」の決定を覆し、偽の本を削除しました。米Gizmodoの取材に対して、Amazonからはこのような説明メールが来ています。
「販売される本を規定する明確なコンテンツガイドラインがあるため、懸念があればすぐに調査を行なっています。
著者からのフィードバックを歓迎し、直接著者と協力して問題を解決しています。
私たちは信頼できるショッピング体験を提供し、お客さまや著者が私たちのサービスの間違った使い方がされないように努めています」
Amazonは、AIによって生成されたコンテンツが削除される原因となった特定の規則やポリシーについて詳しく説明はしてくれませんでしたが、フリードマンさんはソーシャルメディア上でバズったことがやっと削除してくれた理由で、本来は正しいことをするためにソーシャルメディアで大騒ぎする必要はないはずだと話しています。
全米作家協会は、Amazonに正面からリクエストをしていても問題を迅速に解決することはできないため、コネなどを使ってコンテンツを削除できるように動くとフリードマンさんに伝えていました。
全米作家協会は、過去にもAmazonとこういった問題を解決するために一緒に取り組んだ経験があり、AIによって生成されるコンテンツのルールがはっきりしていないため、プロセスをより複雑にしていると指摘しています。
ルール設定が必要
全米作家協会は「詐欺的な本をKindleやGoodreadsを通じて売るために、著者の名前を不正に利用することは以前にもあったことですが、AI生成のコンテンツの登場でさらに悪化しています。Amazonは著者が問題を解決するための手段をより簡単に示す必要があります」と述べています。
AI生成の本を自分の名前で売られていたフリードマンさんですが、彼女はAIが作家のコンテンツをスキャンすることに対しては、まったく反対していないとGizmodoに語っています。彼女が問題だと感じているのは、プラットフォームや企業がこういった悪用を防ぐための基本的なルールや保護策を設けないことだと言います。
「企業はこの問題を真剣に受け止める必要があります。世界中でAIを停止させるのではなく、人間のクリエーターを尊重し、悪意のある人がこの技術を悪用することからクリエーターを守って、共存することが大切です」と述べています。