二次元キャラに強い中国の画像生成AIで「天安門事件」「革命」など政治的な文言のブロックが行われていることが判明

GIGAZINE


中国のIT大手・Baidu(百度)が開発した画像生成AI「ERNIE-ViLG」に、多数の単語をブロックする検閲メカニズムが組み込まれていることが指摘されています。ブロック対象は習近平国家主席のような政治指導者の名前や、「天安門事件」のように中国国内でセンシティブな扱いの単語となっています。

China’s most advanced AI image generator already blocks political content | Ars Technica
https://arstechnica.com/information-technology/2022/09/chinas-leading-ai-image-generator-nixes-political-content-surprising-no-one/


画像生成AIは「DALL・E2」「Midjourney」「Stable Diffusion」など複数のものが存在しますが、それぞれどんな画像でも制限なく生成してくれるわけではありません。たとえばDALL・E2はOpen AIのコンテンツポリシーによりヌード・暴力・政治的コンテンツが制限されていて、Midjourneyは一部コンテンツがフィルタリングされているとニュースサイトのArs Technicaは報告しています。

「ERNIE-ViLG」は多数のアニメ系画像でトレーニングされていると考えられ、アニメなどの萌え画像生成には特に強いことが知られていますが、一方で「習近平」や「天安門事件」、「革命」といった単語はブロックされることが、デモを用いた検証で指摘されています。

ただ、「民主主義」などの語を単体で使用することは可能だとのこと。

なお、この検閲が中国政府による規制を受けたものなのか、政府による圧力を避けるために自主的に行っているものなのかはわかっていません。

この記事のタイトルとURLをコピーする

・関連記事
中国製画像生成AI「ERNIE-ViLG」でブラウザからイラストを簡単に作れる「GUI Tool ERNIE-ViLG version」をGoogle Colabにインストールして動かす方法まとめ – GIGAZINE

画像生成AI「Stable Diffusion」を使いこなすために知っておくと理解が進む「どうやって絵を描いているのか」をわかりやすく図解 – GIGAZINE

画像生成AI「Stable Diffusion」を4GBのGPUでも動作OK&自分の絵柄を学習させるなどいろいろな機能を簡単にGoogle ColaboやWindowsで動かせる決定版「Stable Diffusion web UI(AUTOMATIC1111版)」インストール方法まとめ – GIGAZINE

画像生成AI「Stable Diffusion」で崩れがちな顔をきれいにできる「GFPGAN」を簡単に使える「Stable Diffusion web UI(AUTOMATIC1111版)」の基本的な使い方 – GIGAZINE

・関連コンテンツ

2022年09月15日 13時00分00秒 in ネットサービス, Posted by logc_nt

You can read the machine translated English article here.

Source

タイトルとURLをコピーしました