生成AIの限界に関する専門家からの指摘が続く ほか【中島由弘の「いま知っておくべき5つのニュース」2023/6/8～6/14】

1. 生成AIの限界に関する専門家からの指摘が続く

　アカデミアからは、さまざまな領域の研究者が生成AIについてコメントをしている。

　早稲田大学教授で著作権法を専門とする上野達弘氏は「日本は『機械学習パラダイス』」だと表現している（日経ビジネス）。著作権法の「情報解析」の規定によって著作権者の許諾なしに著作物をAIに学習させることができることを指している。しかし、あくまで「学習」であって、そこからの「生成」が同じように適法というわけにはいかないと注意を促す。

　慶應義塾大学環境情報学部教授で認知科学や言語心理学を専門とする今井むつみ氏は「AIは『意味』を理解しない」と指摘する（日経ビジネス）。「99/100（100分の99）」と「101/100（100分の101）」「100」を小さい順に並べたらどうなるかという問題をChatGPTに解かせると、誤った答えが返ってくるという事例を挙げ、分数の意味を理解していないだけでなく、「人間の持つ、数と量を対応付ける直観」が欠如していると指摘している。

　一橋大学名誉教授の野口悠紀雄氏は統計データの抽出を試みても「惨憺たる結果」だったという（東洋経済オンライン）。そして「『信頼できる資料は何か』と生成系AIに質問をすると、いい加減な答えが返ってくる。あまり信頼できそうもない資料を挙げたり、あるいは、そもそも存在しない文献をでっち上げたりする」と指摘する。

　珍しがって試しているうちはいいが、その限界も明らかになりつつあるということか。

　そうしたなか、イギリスとカナダの研究者グループが「再帰の呪い」と題した論文をオープンアクセスジャーナルの「arXiv」に発表した（Gigazine）。「時間が経過するにつれて、生成されたデータの誤りが積み重なっていき、最終的には生成されたデータから学習することでAIが現実をさらに誤って認識する」というものだ。これを「環境を汚染」だというわけだ。

　人とは比べものにならない速度でテキストや画像を生成するAIはその結果を自らが再帰的に学習してしまうことにも目を向けるべきだという警鐘だ。

2. OpenAIのサム・アルトマン氏が再び来日

　各国を訪問し、政府関係者らとの面談を重ねているOpenAIのCEOであるサム・アルトマン氏が再び日本を訪れた。

　ソフトバンクグループの代表取締役である孫正義氏とも面談し、共同で事業を模索していると明かした（NHK）。また、複数の企業関係者との面談を通じて、「ChatGPTの技術を使って企業側がわれわれに何をしてほしいのか、また規制の方法について知ることができた」と述べた。

　さらに、朝日新聞の取材に応じて、「世界にとって恩恵の方が（リスクより）はるかに大きい」と述べている（朝日新聞デジタル）。一方で「性能が向上するにつれリスクも増大する」とし、「規制のための国際枠組みの必要性」に言及している。

　多くの人が生成AIの計り知れないインパクトについて感じているが、このような技術を世に出したOpenAIの経営責任者の顔が見え、各国の要人らとも話し合い、問題点を共有していこうという経営姿勢は重要なことだと感じる。

　そして、日本における拠点を作ろうとしいることを認め、Twitter日本法人の元代表を採用したともしている（朝日新聞デジタル）。

3. アドビのクリエイター向けツールで追加される生成AIの新機能

　アドビはクリエイター向けサブスクリプションサービス「Adobe Creative Cloud」の新機能を発表した（ケータイWatch）。AIを利用したさまざまな機能が目を引く。

　Illustratorの「AIリカラー」機能は「ユーザーが英文で入力したイメージをもとに、素材画像の色調をAIが自動で調整する」というもの。Photoshopには「素材内の不要なものを違和感なく削除するAI削除ツール」や「生成塗りつぶし機能」「色調補正プリセット」などが付加される。

　また、アドビが独自に開発した生成AI「Firefly」を「Adobe Express」に搭載することを発表した（ケータイWatch）。Fireflyは「ユーザーが説明文を会話調や単語で入力することで、画像生成やテキストに装飾効果を加えられるサービス」だ。「TikTok動画やリールなどSNSにアップロードする動画作成のプリセットが用意されており、Adobe Stock素材や先述の『Firefly』で生成した素材と組み合わせることでより際立つコンテンツが作成できる」というような使い方もできる。

　何もないところに画像や動画が出現するのではなく、その制作過程で生成AIを簡単に利用できるようにするというところがアドビ製品の本領発揮というところ。

4. 「ブラック・ジャック」新作を生成AIで作成

　手塚治虫の新作に挑むプロジェクト「TEZUKA2023」の計画が公開された（PC Watch）。「TEZUKA2020」の後継プロジェクトとして位置付けられ、「独自に開発した技術のほか、OpenAIの『GPT-4』やStability AIの『Stable Diffusion』などの生成AIも活用して『ブラック・ジャック』の新作を制作」する。さらに、今秋には秋田書店の「週刊少年チャンピオン」でも公開する。

　手塚プロダクションの取締役である手塚眞氏は「手塚治虫は科学の進歩が明るい未来社会をもたらすだけではなく、問題点や危機的な状況も感じ取って作品を発表してきた。手塚治虫の漫画から学んだことがたくさんあると思う。AIが普及していく中で日本人は敏感にそのようなことを感じ取れるのではないか。それを踏まえた上での研究発表、研究過程の発表だ」と述べている。

　さらに、「色んな意見も出てくるかと思うので批判も受け止める覚悟。ですが遺族として言えることは、もし手塚治虫が生きていたらAIを使っただろう。一番良いかたちで見本を示したと思う」と述べた。

　もちろん、このプロジェクトでは全て「AIにおまかせ」して、何かが「出力される」ことを期待するのではなく、技術と人間のコラボレーションのためのプロセスが重要な柱となる。生成AIの応用事例として後世に語り継がれるような成果を期待する人も多いに違いない。

5. フィッシング詐欺が過去最大に増加。ランサムウェア被害も広がる

　フィッシング対策協議会が公表した月次報告書によると、この5月のフィッシング報告件数は11万3789件で、4月から2万857件増加して過去最高となっている（ケータイWatch）。今年に入ってから急速に増加している。誰もが知っていて、利用しているユーザーが多い企業を名乗るばかりでなく、今までよりも自然な日本語を使うようになって、心理的な隙間を突いてくる巧妙な仕掛けについて、日頃からその傾向を把握しておくことはますます重要になる。

　さらに、今週はランサムウェアの被害に関する記事も目立つ。コクヨ（日経XTECH）、エムケイシステム（日経XTECH）、杉並区（日経XTECH）、ガリバー（ITmedia）などで、企業だけでなく、自治体のシステムも狙われた。