イラスト自動生成AI「NovelAI」について学習元となったDanbooru公式が声明を発表

Stable DiffusionやMidjourneyなどの画像生成AIは、大量の画像で構成されたデータセットで学習を行っています。高精度の二次元イラストを生成できるとして話題になったNovelAIも、学習したデータセットに海外の二次元画像サイト・Danbooruの画像を多く含んでいるといわれています。そんなDanbooruの公式運営チームが、NovelAIについて声明を発表しました。

Contact | Danbooru
https://danbooru.donmai.us/contact

Danbooruは二次元イラストを投稿して共有することができるサイトで、特にイラストに描かれている内容を示すタグが豊富で検索性に優れていることで人気があります。しかし、Danbooruにアップロードされている二次元イラストの多くがPixivやTwitterなどのSNSに投稿された作品の転載であることが問題となっています。

そんなDanbooruの運営は、「画像の削除要請は[email protected]までメールでお願いします。該当する絵のDanbooru上のURLと、ご自分がその画像の権利者である証拠を添付していただければ幸いです」と述べ、無許可の転載には対応すると述べています。

さらにDanbooruは、Danbooruの画像をデータセットに利用しているNovelAIについて、以下の声明文を発表しました。

まず手始めに、我々がNovelAIに関係していないことと、彼らがしてることを、支持はおろか容認もしていないことをはっきりさせたく存じます。
ご自身の描いた絵をNovelAIに利用されたくない絵師様にとって最も効率的な手段は、NovelAIに直接問い合わせをして、 同社の学習データから自分の絵を削除、そしてAIアートを生成する際にユーザーが入力する「プロンプト」（指示文）から自分の名前やハンドルネームを除外するよう、要求することです。
現時点ではNovelAIの学習データはすでに完成しており、AIモデルの構造上、例えDanbooruから絵を削除したところで、その絵から学習された情報がNovelAIの手元から勝手に無くなるわけではありませんので、ご注意ください。

例えDanbooruに一度も上がっていない絵でも、PixivやTwitterに掲載されてる時点でNovelAI等に収集される可能性が高いと思っていいでしょう。
つまりNovelAIがDanbooruから収集できる絵は、そのままPixivやTwitterから収集できるものでもあると考えていただければ幸いです。
そもそも、NovelAI等のAIアート生成サービスの殆どは、Stability.ai社が提供しているソフト、Stable Diffusionをベースにして、各自のAIモデルを仕上げています。
Stable Diffusion自体は、50億枚もの絵をインターネットのいろいろなところから学習データとして収集することで出来上がったものです。
それこそ、絵師様がよく使ってるTwitter、Pixiv、ArtStation、DeviantArtなどのサイトだけでなく、Reddit、Pinterest、Facebook、Google画像検索などなど無数に、ということです。
Stable Diffusionの中に取り込まれている絵であれば、今更Danbooruから削除しても効果は薄いと思われます。

つまり絵師様にご理解していただきたいのは、AIアート生成サービスのAIモデルはDanbooruだけでなく、インターネット全体を糧にして学習を行っていることです。
絵はインターネットのどこかでオープンに公開されてる以上、学習データとして取り上げられる危険が常にあります。
AIモデルの開発者に問い合わせする以外に、それを防ぐ方法はありません。

Danbooru運営は、自分の作品が画像生成AIの学習に使われているかどうかを確認できるサイトを紹介しています。

画像生成AIに自分の作品が勝手に使われたかどうかを検索できる「Have I Been Trained?」 – GIGAZINE

また、自分の絵をAI学習に使ってほしくない旨を宣言した上で以下のサービスを使うことで、AIの開発者に通知することが可能だとのこと。

Spawning
https://spawning.ai/

NovelAIでどんなイラストが生成できるかについては、Twitterに多く投稿されています。

なお、Danbooruの画像をデータセットに使っているモデルは他にも多数存在しています。Stable Diffusionの派生モデルにもさまざまな種類が存在しており、どのモデルがどういうデータセットを使って学習しているのかは以下の記事にまとめられています。

画像生成AI「Stable Diffusion」でいろいろ特化した使えるモデルデータいろいろまとめ – GIGAZINE

また、NovelAIはもともと小説を自動生成するAIで、イラスト生成はあくまでも機能の1つ。画像生成部分についてはStable Diffusionにならっていながら、独自のアルゴリズムを実装しているとのこと。ただし、オープンソースで開発され一般公開もされているStable Diffusionと異なり、NovelAIのソースは公開されていません。