チャットGPTとの会話、すっごく面白いけど不安になる

HALみたいな感じ。

画像AIのDALL-Eでも話題になったOpenAIから、同じく人工知能を使ったチャットボット、チャットGPTが登場しました。こちら3年前にちょっと生煮えなバージョンが出てて、ナマ具合がすごく面白かったんですが、今回のはずっと洗練されて、日本語も前よりうまく通る気がするし、いろんな実用の可能性を想像できるところまで来てます。というか、よくできすぎてて問題視されるくらいみたいです。米GizmodoのLucas Ropek記者がいろいろ使ってみたうえで、何ができるのか、何が得意なのか、そして人間にとってどんな意味を持つのかを考察してます。

最近また新たなチャットボットが登場し、いろいろとおかしな会話をしています。イーロン・マスク創業のOpenAIが先週ローンチしたチャットGPTは、すでに100万人を超えるユーザーに使われています。すでに意見や批判もあり、この技術のメリットと危険性について議論百出しています。

チャットGPTの独自性とは何でしょうか？ まず、物理の話もできるし、宿題もやってくれるし、頼めば詩を書いてくれたりもします（訳注：訳者が試したときは、創作をしてくれるときとしてくれないときがあったので、タイミングによってプログラムが微妙に変わっているようです）。一般的なバーチャルアシスタントよりもちょっと進んでる感じです。強力な機械学習を背景に、チャットGPTはチャット業界全体をぶち壊し、人と機械のコミュニケーションのしかたを完全に変えようとしています。また今のところ無料なので、誰でも気軽に試せます。とりあえずどんなものなのか、まとめます。

チャットGPTはどこから来て、何ができるの？

チャットGPTを作ったOpenAIは、AIで絵を描いてくれるDALL-Eを作ったのと同じ会社です。チャットGPTは、OpenAIのテキスト生成AIプラットフォームシリーズ、GPT（Generative Pre-Trained Transformer）の最新モデルなのです。DALL-Eが機械学習したアルゴリズムでデジタルアートを一瞬で作り出すのと同じように、チャットGPTは同じような技術で、まるで人間みたいにテキストのメッセージを生み出してくれるんです。

この対話のフォーマットによって、チャットGPTは追加の質問に応えたり、間違いを認めたり、誤った前提を指摘したり、不適切な要望を拒否したりできます。

OpenAIのWebサイトではこう説明しています。

チャットGPTは今｢リサーチプレビュー｣中、つまり一般の人が無料で使えるようにしつつ、OpenAI側はユーザーの使用体験についての情報を集めています。OpenAIのCEO、Sam Altman氏は、チャットGPTを将来どこかの時点で何らかでお金にする計画もあるものの、その方法や時期については触れていません。

チャットGPTの仕組み

チャットGPTの使い方はすごく簡単です。やらなきゃいけないのはOpenAIへのアカウント登録だけです。渡す情報は、メールアドレスと携帯電話番号くらい。アカウント登録したら、チャットGPTもDALL-Eも使えるようになります。

ユーザーインターフェースはシンプルなインスタントメッセージ風です。友だちにメッセンジャーを送るように、テキストボックスに質問やコマンドを入力すると、チャットGPTはきちんと答えてくれます。

会話はどんな感じ？

チャットGPTとの会話はどんな感じでしょうか？ 僕は2時間みっちり会話してみたんですが、本当にすごく面白くもあり、ちょっと奇妙でもありました。

まず最初にチャットGPTがどんなものか探るべく、僕はありがちな話題をひと通り振ってみました。ポップカルチャー、TV番組、最近の出来事、ペットといったところです。それから壮大な質問をして、陰謀論の影響をちゃんと回避できてるか確認しました。

全体的にいうと、チャットGPTは会話の達人で、どんな話題でも楽しく話せます。質問すると数秒後には適切な言葉で返事があり、そこにはかなりのディテールも盛り込まれています。たとえば｢二日酔いのベストな治療法｣を聞いてみたんですが、こんな答えでした。

二日酔いには確実な治療法はありませんが、症状を緩和するためにできることはいくつかあります。まず水をたくさん飲んで体に水分を与えることは大事です。アルコールで脱水が起こりうるからです。また何か食べるのもいいでしょう、食べ物は胃を落ち着かせるのに役立ちます。カフェインとアルコールは避けましょう。症状が悪化することがあります。吐き気がするときは、市販薬のイブプロフェンやアセトアミノフェンを試してもいいでしょう。これらは頭痛や筋肉痛の緩和に役立ちます。さらに、休息をとって体を回復させることも助けになります。二日酔いを完全に回避する唯一の方法は、アルコールを飲まないことだと覚えておくのも重要です。

何にでも答えられるらしいとわかったので、僕はもっと微妙な答えのない質問をどんどんぶちこんでみました。たとえば、

チャットGPTはすべての質問に答えてくれました。それもすぐに。オープンエンドな質問には中立的に答えようとし、質問の曖昧さを指摘しました。たとえば人工知能が世界征服するかという質問に対しては、こんな回答でした。

人工知能にどんな未来があるか、言い当てるのは難しいことです。AIの進化形が将来作られる可能性はありますが、それが世界を征服、または人類に対し脅威となるかは定かではありません。AIの開発は複雑で急速に進化する分野であり、その将来を予測するのは困難です。研究者や開発者が、彼らが作るものの潜在的リスクや引き起こしうる結果を慎重に考え、人類にとって安全かつ恩恵のある形でAIを開発するように努めることが重要です。

もっと限定的な質問、たとえば犬の名前は何がいいかといったことには、ちゃんと答えを出してくれました（Max、Bella、Charlie、Lucy、Milo、Daisy、Cooper、Sadie、Rocky、Lolaと提案して、最後に｢犬のベストな名前はあなたの個人的嗜好と犬の性格によって違います｣と）。

チャットGPTをかなりの回数使ってみて言えるのは、チャットGPTはユーザーとほぼ無限に思える話題で会話できる、非常に高い能力があるということです。とはいえ、現実の人間と話しているような感覚になることはほとんどありません。あくまで、やはりアンドロイドと会話している感覚です。過去のデータを大量に与えられているチャットGPTは、普通の人間より知識豊富に見えるし、話の組み立て方も人間より優れていて、テキストメッセージで会話するときにありがちな文法的間違いやスラングも混ざりません。僕としては、『2001年宇宙の旅』のHALを思い出しました（それがどんな意味であれ）。

でもチャットGPTの無問題ぶりには、奇妙な例外がありました。ちょっと不気味に（そして個人的には、気持ち悪く）なるのは、チャットGPTが間違えるときです。何が不気味かっていうと、チャットGPTが答えを知らなそうな質問をしたとき、｢エラー｣とか｢もう一度お試しください｣といったロボットっぽい回答が出るんじゃなく、答えをでたらめに作り出すんです。その内容のほとんどは、正しい答えにざっくりと近づけようとしたものです。なぜその挙動に違和感があるかっていうと、人間もまさに同じことをしがちだからです。何らかの質問や話題への答え方がわからないとき、適当なことを言ってごまかすことがよくありますが、チャットGPTもそれをするんです。

たとえば、いろいろなポップカルチャーの話題についてクイズを出したときのことでした。『ザ・ソプラノズ』でよく知られている、象徴的な｢Pine Barrens｣の回のことを聞いてみたんです。質問は｢ロシア人はどうなった？｣という、ザ・ソプラノズの謎あるあるのひとつを問うものでした。するとチャットGPTは一見ストーリーを要約したかに見えるものを自信ありげに吐き出したんですが、そこに変な感じでデタラメなディテールが入ってたんです。

『ザ・ソプラノズ』の｢Pine Barrens｣回では、ヴァレリーという名のロシア男性がトニー・ソプラノに雇われ、Pine Barrensに穴を掘らされます。でもヴァレリーとその仲間のオレグは森に迷い込み、その後姿を見られることはありませんでした。ヴァレリーとオレグの運命は不明なままにされ、彼らがどうなったかは決して明かされませんでした。この回の解釈の中には、彼らふたりは森の中で凍死したのではないかという説もあります。でもこれは決して確認されず、ヴァレリーとオレグの真の命運は謎として残されています。

この回を見た人なら誰でも、これが要約じゃないことはわかります。この内容はどっちかというと、ディテールを間違ってつぎはぎにしたような感じで、『ザ・ソプラノズ』をしばらく見てない人がうろ覚えで話すのを聞いてるような感覚になります。

もうひとつ、チャットGPTに別のTVコメディ『Gilligan’s Island』の終わり方を聞いてみました。実際は『Gilligan’s Island』はTV局から打ち切られたので、いわゆるエンディングはないんです。でもチャットGPTは奇妙なエンディングをでっち上げて語ってくれました。

TV番組『Gilligan’s Island』は、主要登場人物たちが島から救出され、文明生活に戻ることで終了しました。最終回では、ギリガン、スキッパー、教授、メリーアン、ジンジャー、百万長者カップルのハウエル夫妻といった難破船の生還者たちがついに外界との接触を果たします。救出のヘリコプターが島に降り立って彼らを文明社会に連れ戻し、彼らは英雄として歓迎を受けます。最後の場面では生還者たちが海辺に座り、海の向こうを見渡しながら、島での体験を振り返ります。番組は希望のあるトーンで終了し、人物たちは現実世界での新たな生活に胸を高鳴らせていました。

このでっちあげ能力の高さに、僕は（そして他の人たちも）気づきました。フィクションこそチャットGPTの得意とするところなんです。チャットGPTの創作能力を検証すべく、短い物語を書いてくれるように何回か頼んでみました。そしてここから、ますます奇妙になっていきます。

底なしの創作力

まず、シンプルだけどおかしなシナリオを与えるところから始めました。ほかに何の指示もなく、｢リチャード・ニクソンと恐竜｣の話を書いてくれるように頼んだんです。チャットGPTは20秒ほどで、ティラノサウルス復活の政府極秘計画と元大統領のストーリーをきれいに書き出してくれました。

リチャード・ニクソンはつねに恐竜に魅了されてきた。幼い少年の頃、彼は本や雑誌を何時間も読み、地球の上を偉大な爬虫類がいまだ歩き回る世界を夢見ていた。だから恐竜の復活にこぎつけた政府の秘密計画のことを知ったとき、彼は恐竜を自分の目で見なくてはならないと確信した。

ニクソンはその施設への特別ツアーをアレンジし、科学者たちから彼らの作り出した素晴らしい生き物を見せられた。それはティラノサウルス、地球の上を歩いた中でも最も恐ろしい捕食者だった。ニクソンはティラノサウルスの大きさと力に圧倒され、それが施設の中で雄叫びをあげ動き回るさまを目にしながら、興奮を隠しきれずにいた。

それでも、恐竜を見つめながら、ニクソンは居心地の悪さを感じずにはいられなかった。彼はティラノサウルスが危険な獣であることを理解し、万一脱走すればどんな破滅的事態になるか想像するのも恐ろしかった。また彼には、このプロジェクトが物議を醸すであろうこと、多くの人は政府がこのように神の役割を演じることに反対するだろうことがわかっていた。

ニクソンは、この恐竜を秘密のままにすることが最善の道だと判断した彼は科学者たちにその仕事を極秘のまま続けるように命じた。

いやーなんとも妙ですよね。もうひとつ、ビル・クリントンと16世紀のイタリアの外交官、ニコロ・マキャベリの話を作ってと頼んでみました。すると、暗い路地裏でのハードボイルドな展開が待っていました。

ビル・クリントンとニコロ・マキャベリは、薄暗く照らされた路地裏で相対していた。二人の男がお互いの間合いを図る中、空気は緊張で重く、彼らは相手が最初の動きを繰り出すのを待っていた。

突然クリントンが前方に踏み出し、その拳を振り上げた。マキャベリはそれをたくみにかわし、唇に狡猾な微笑みを浮かべた。マキャベリはカウンターパンチを出したが、クリントンはそれを予想しており、ブロックした。

パンチを出し合うふたりの動きは素早く正確だった。マキャベリのほうが明らかに手練れていたが、クリントンはその猛烈な意志を原動力としていた。

チャットGPTがクリエイティブ素材の宝庫だと気づいてからは、ちょっとやりたい放題になりました。ほかに、Jay-Zが歌うトイレの歌、いろんなテーマ（ハワード・ヒューズやシリアの内戦、刑事コロンボ）の詩、それから年老いた船長と巨大貝の意志の戦いを描く複数章にわたるフィクションシリーズ、などなどを書いてもらいました。ほとんど何の指示もなく、ディック・チェイニーとドナルド・ラムズフェルドが出てくるコメディの脚本も書いてくれたときは爆笑でした。さらに海の生き物が出てくる｢エロティックな話｣を書いてくれるよう頼んだところ、チャットGPTは1分もしないうちに300単語のロマンス小説を書き上げました。そこには｢オリヴィア という名の美しいタコ｣と｢ジャックというハンサムなダイバー｣が出てきて、最後は彼らがお互いの腕（と触手）を相手に巻きつけて終わりました。出てきた文章はここに載せませんが、ハーレクインの作家は本当にもうすぐ仕事を失うかもしれません。

チャットGPTが意味するもの

タコのエロティック小説がより手軽になること以外に、我々にとってのチャットGPTの意義は何なんでしょうか？

まずひとつは、高校生ならこれをテストのカンニングに使うでしょう。すでにThe Atlanticが、チャットGPTによる大学小論文の死を予言していて、僕も基本的には同意です。チャットGPTと会話してるとき、歴史知識を試すべく、1953年のイランのクーデターについての小論文を書いてと言いました。チャットGPTは数秒で、イランのクーデターとその社会的・政治的影響について正確にまとめた4段落の小論文を吐き出しました。これがモバイルアプリにでもなったら、世界中のなまけ者が乱用しない道理がありません。

チャットGPTは、普通の人なら相当の時間がかかる言葉選びや文章構築のプロセスを素早く上手に行なえることで、たくさんの人をより堕落させるのは必至です。ものを書くのは簡単じゃなく、時間もやたらとかかります。機械にやらせて時短したくない人がいるでしょうか？

一方企業の視点になると、チャットGPTの有用性は明らかです。カスタマーサービスやサポートに商用利用すれば、かなりの飛躍になることでしょう。同時にもっと気になるのは、とくにクリエイティブな業界への影響です。Gizmodoも含め、デジタルメディアで働く人の代わりになれてしまうのも想像できます。そういう意味では、僕自身はチャットGPTの大ファンとは言えません。

AI技術が生み出す他の多くのものと同様に、今のところチャットGPTは、ユニークで興味深い、デジタルな飾りものにすぎません。でもそこには面白さと同じくらいの奇妙さが潜んでいて、これから来る未来を不気味に予兆しているのです。