AIは人間より人気の高い「富の再分配システム」を作成できるという研究結果

人間社会は裕福な人々と貧しい人々の所得格差を埋めるため、税金徴収と社会保障制度、公共事業などを通じて富の再分配を行っていますが、再分配の方法については「不平等だ」「公正ではない」といった不満の声も上がりがちです。イギリスの人工知能開発企業・Deepmindやエクスター大学、オックスフォード大学などの研究チームが発表した新たな論文では、「AIが作成した富の再分配システム」が人間の作ったシステムよりも多くの支持を受けたことが示されました。

Human-centred mechanism design with Democratic AI | Nature Human Behaviour
https://www.nature.com/articles/s41562-022-01383-x

AI Seems to Be Better at Distributing Wealth Than Humans Are, Study Hints
https://www.sciencealert.com/ai-could-be-be-better-at-distributing-wealth-experiment-suggests

富の再分配は階層の固定化を避けて公平性を増し、人間活動に活力をもたらすとして重要視されています。しかし、公正かつ人々の支持を得られる再分配システムを考案することは、政治学者や経済学者にとっても難しい課題です。そこで研究チームは、人々の相互作用をトレーニングデータに組み込んだAIに富の再分配システムを作成させ、人々からどれほどの評価を得られるのかを調べました。

研究チームは「Democratic AI(民主的AI)」と名付けたAIエージェントを評価するため、「公共財ゲーム」という投資演習を行いました。公共財ゲームでは、複数の参加者が持っている資金を「公共ポット」にいくら投資するのかを決定し、投資した資金に利息が付いて各参加者に再分配されます。

今回の研究では、人間が考案した「厳格な平等主義に基づく再分配(投資した金額に関係なく全参加者に平等に公共ポットの資金を分配する)」「リバタリアン的な再分配(投資した金額に比例して公共ポットの資金を分配する)」「リベラルな平等主義に基づく再分配(手持ちの資金のうち何割を投資したかに比例して公共ポットの資金を分配する)」という3つの再分配システムと、民主的AIが作成した「Human Centered Redistribution Mechanism(HCRM／人間中心再分配メカニズム)」という再分配システムを比較しました。HCRMは人間のプレイヤーと仮想エージェントからのフィードバックデータを使用し、ディープラーニングを利用して作成されたとのこと。

研究チームは、人間が考案した3つの再分配システムおよびHCRMを導入した公共財ゲームを人間の被験者にプレイしてもらい、どのシステムが最も好ましいかを評価してもらいました。その結果、人間が考案した再分配システムよりもHCRMの方が人気が高いことが判明。研究チームは、「AIは初期の富の不均衡を是正する仕組みを発見し、フリーライダーを制裁し、多数決に勝利することに成功しました」と述べています。

今回の研究結果は、AIが物理学や生物学に関する問題を解決するだけでなく、公正かつ繁栄する社会の実現といったオープンエンドな課題についても、有用なツールとなり得る可能性を示唆しています。「私たちは代表者の選出や公共政策の決定、法的な判決などに使われているのと同様の合意形成のための民主的手段を、価値を一致させるために利用可能であることを示しています」と、研究チームは述べました。

なお、研究チームは今回発表した民主的AIにおけるさまざまな問題点も指摘しています。まず、民主的AIにおける「価値の一致」は多数決に基づいているため、そもそも民主社会の中に多数決で支持されている不平等や偏見が存在する場合、AIがさらにこれらの問題を悪化させる危険があるとのこと。また、実験ではプレイヤーに対し「HCRMはAIによって考案された」と伝えられていませんでしたが、もしこの情報を伝えていた場合、AIに対する不信感から投票行動が変化した可能性があります。

研究チームは今回の結果について、「自律的なエージェントが人間の介入なしに政策決定を下す『AI政府』の一形態への支持を表明するものではありません」「民主的AIは、潜在的に有益なメカニズムを設計するための研究的方法論であり、公共の場にAIを展開するためのレシピではないと考えています」と述べました。