悔しいけど、まぁそうだよね。
新しい研究によると、OpenAIのGPT-4と人間が1対1でディベートをすると、GPT-4が勝つことがわかりました。また相手の人間の年齢や職業、政治的な考えなどの情報をAIの方が持っていると、さらに強くなるそうです。
AI vs 人間、どんな結果？
スイスのローザンヌ連邦工科大学、プリンストン大学、イタリアのブリュノ・ケスラー財団の研究チームが、900人の参加者を人間、またはGPT-4とペアにしてディベートをするという実験を実施。Nature Human Behaviour誌にてその実験結果が発表されています。
この研究では、参加者（AI・人間ともに）に、相手の性別、年齢、学歴、職業、民族、政治的志向といった基本的な個人情報をもらってからディベートするケースもあわせて実験されています。AIはそういった個人情報が与えられた場合、人間の対戦相手よりも64.4%高い説得力を持つことが判明。逆に、個人情報がない状態では、AIと人間のディベート能力にはほとんど差が見られなかったそうです。
｢近年、ソーシャルメディアやオンラインプラットフォームの普及により、パーソナライズ、すなわち個人や集団に合わせてメッセージを調整し、その説得力を高める手法『マイクロターゲティング』を可能にすることで、大衆への説得の可能性が大きく広がりました｣と研究チームは説明しています。
個人情報でさらに強くなるAI
GPT-4にパーソナライズされた議論をしてもよいと許可すると、どんな相手であろうと人間よりも顕著に説得力を向上し、人間同士のディベートと比べて相手の考えを変える可能性を81.2%高めることができたといいます。重要なのは、人間が同じ個人情報を与えられても、それほど論破する力が増すことはなかったという点です。
研究チームは、今回の実験結果を受け、こう述べています。
人を論破する力という点において、大規模言語モデル（LLM）がオンライン上の会話を操作したり、誤情報を広めたり、政治的な対立を深めたり、自分と同じ意見ばかりが強まる環境（エコーチェンバー）を作ったり、人に新たな考えを植え付けたりするといった悪用のリスクについて、広く懸念しています。
研究チームは、GPT-4は人と議論することができ、相手に関するある程度の情報が与えられれば、その人の考えを変えさせる点で非常に優れた能力を発揮する可能性があると結論づけました。
論文の論証箇所では、大規模言語モデルは過去にもヘイトスピーチ、誤情報、プロパガンダの生成や拡散に関して批判を受けており、ユーザーの個人情報と組み合わされることで、悪意ある目的に利用される恐れがあるとも警告しています。
最近のChatGPTのアップデートでは、ユーザーの許可があれば過去の会話内容をより多く記憶できるようになり、AIがユーザーに関する情報のカタログにアクセスできるようになったので、個人情報をAIに与えると強くなるという今回の研究結果は、納得ですね。
立場を固定したテーマではちょっと弱くなる
AIが人間を論破するというのは、いいことなのか、悪いことなのか。それは見方にもよるのかもしれません。
GPT-4はそれほど対立のない話題では非常に効果的に相手を説得できましたが、それぞれの立場が強く固定された場合は、人間の考えを変えるのが難しかったという結果が出ています。
さらに研究チームは、GPT-4はより論理的かつ分析的な言葉遣いを好む一方で、人間は｢私｣や｢私たち｣といった一人称代名詞、そして感情に訴える表現を多用する傾向があることを発見。意外なことに、パーソナライズがGPT-4の語調やスタイルを劇的に変えることはなく、単にその主張がより的確に相手に向けられるようになっただけでした。
また4件中3件のケースで、人間の参加者は自分の相手がAIであることを見抜くことができたそうです。これは、GPT-4特有の文体が原因だと研究チームは見解を述べています。
逆にAIの方は、相手を人間だとあまり見抜けなかったとのこと。そして、人間の参加者は相手がAIだと思ったときの方が、相手が人間だと思っていたときよりも、意見を変える傾向が強かったそう。
研究チームは、この実験をRedditやFacebook、XなどのSNSで実際に起こりうることの｢実験例｣として見ています。SNSでは、日常的に議論や意見の対立があり、AIボットもたくさん使われています。この論文では、AIが人の考えを変えるのに、詳しい個人情報は必要なく、たった6つの情報だけで十分に相手を論破できることを示しています。
AIが日常的に宿題、文書作成、セラピーなどにも使われるようになった今、人間はAIから与えられる情報に対して慎重になるべきだと研究者たちは警告しています。皮肉に感じることは、かつて｢デジタル時代のつながりの方法｣として台頭してきたSNSが、今や孤独や孤立を助長していると、今年3月に発表された研究で指摘されています。
ディベートの目的は、ただ勝ち負けだけではありません。本質的に人間らしい行為なんです。私たち人間が、一対一の会話をするのは、個人的なつながりを築き、共通点を見いだすためとも言えます。そして、どれだけ強力な学習能力を持つ機械であっても、人間のようにはできないことなんです。
