二次元キャラに強い中国の画像生成AIで「天安門事件」「革命」など政治的な文言のブロックが行われていることが判明

中国のIT大手・Baidu(百度)が開発した画像生成AI「ERNIE-ViLG」に、多数の単語をブロックする検閲メカニズムが組み込まれていることが指摘されています。ブロック対象は習近平国家主席のような政治指導者の名前や、「天安門事件」のように中国国内でセンシティブな扱いの単語となっています。

China’s most advanced AI image generator already blocks political content | Ars Technica
https://arstechnica.com/information-technology/2022/09/chinas-leading-ai-image-generator-nixes-political-content-surprising-no-one/

画像生成AIは「DALL・E2」「Midjourney」「Stable Diffusion」など複数のものが存在しますが、それぞれどんな画像でも制限なく生成してくれるわけではありません。たとえばDALL・E2はOpen AIのコンテンツポリシーによりヌード・暴力・政治的コンテンツが制限されていて、Midjourneyは一部コンテンツがフィルタリングされているとニュースサイトのArs Technicaは報告しています。

「ERNIE-ViLG」は多数のアニメ系画像でトレーニングされていると考えられ、アニメなどの萌え画像生成には特に強いことが知られていますが、一方で「習近平」や「天安門事件」、「革命」といった単語はブロックされることが、デモを用いた検証で指摘されています。

ただ、「民主主義」などの語を単体で使用することは可能だとのこと。

なお、この検閲が中国政府による規制を受けたものなのか、政府による圧力を避けるために自主的に行っているものなのかはわかっていません。