ちょっと読んでみたい。
ローマ教皇が統治するバチカンがAIブームに乗り出したようです。先日、ローマ教皇庁は教皇が定義する｢人工知能の倫理に関するハンドブック｣を発表しました。
このガイドラインは、教皇とサンタクララ大学のマーククラ応用倫理センターが共同で作成したもの。両者は｢技術・倫理・文化研究所（ITEC）｣という新組織を立ち上げ、その第1弾プロジェクトとなったのが｢破壊的テクノロジーの時代における倫理：運用ロードマップ｣と題されたハンドブック。
これはAIや機械学習、暗号化、追跡などにおける倫理という、ある意味｢濁流｣を行くハイテク業界を導くために作られたのことです。
ハイテク業界にいる人々に指針を提供
教皇やその周囲の方たちが人工知能について考えるというのは、なんとなく不思議な気もします。
しかし、ロスアルトスにあるセント・サイモン教区のブレンダン・マクガイア神父によれば、このイニシアチブは長年教会が関心を寄せてきたことのいわば集大成だといいます。
ITECのアドバイザーでもあるマクガイア神父は、｢バチカンにはキープレイヤーを交渉のテーブルに連れてくる独自の能力があります｣と主張します。
｢ローマ教皇は常に広い視野で世界と人類を見つめており、テクノロジーは良いものだと信じています。しかし、技術の発展に伴って、より深い疑問を投げかける時が来るのです。
何年も前から、シリコンバレーにあるハイテク企業の重役たちが 、『助けてください、これからたくさんのことが起きようとしているのに、我々はまだ準備ができていません』と私のもとに駆け込んできました。
それはつまり、バチカンの招集力を使って全世界の企業リーダーを一堂に集めようという考えなのです｣
多くのIT支持者や学者、オブザーバーは｢いかに規制当局へのアピールするか｣ということに力を注いでいますが、ITECハンドブックは異なるアプローチを採っています。
政府が業界向けのルールを決めるのを待つのではなく、今すでにAIが抱える大きな難問と格闘するハイテク業界の人々に、指針を提供したいと考えているのです。
技術が｢人類と環境のため｣になる具体策を提示
マーククラセンターのリーダーシップ倫理担当シニア・ディレクターであり、ハンドブックの執筆者の1人であるアン・スキート氏は、次のように語っています。
｢説明責任や透明性といったものに関して、企業ごとに共通の原則を持つ、というコンセンサスが生まれつつあります。
それは素晴らしいことですが、“実際に何をすべきなのか”、“そのスタンダードをどうやって技術の設計や導入に適用すればいいのか”ということについては、コンセンサスがあまり得られていないのです。
本書は全体的に問題が起きた後に振り返ってそれを解決するのではなく、一連の原則に基づいて作られた価値観を｢テクノロジーとそれを開発する企業に始めから組み込む｣ことを提唱しています。
そしてこのマニュアルが企業に示す基本原則とは、｢私たちの行動は人類と環境の公益のためにある｣というもの。
そう聞くと、とても立派な理論ですが、ちょっと抽象的でわかりにくいですよね。でも大丈夫。ITECハンドブックでは、誰もが納得する壮大な理論が、具体的なアドバイスや実行可能なステップへとつながるように構成されています。
その大きな柱となる原則は、｢人間の尊厳と権利の尊重｣や｢透明性と説明可能性の促進｣など7つの指針から成っています。そして、これら7つがさらに46の具体的かつ実行可能なステップに細分化され、定義・例・実行可能なステップを完全網羅しているのです。
例えば｢人間の尊厳と権利の尊重｣という原則が重視するのは、プライバシーと守秘義務。これを実行するために、｢必要以上のデータを収集しない｣、｢収集したデータはプライバシーと機密性を保護するために最適化された方法で保管されるべき｣といった例が記されています。
さらに｢企業は医療データや財務データを保護する方法を具体的に検討すべき｣、｢合法か違法かというだけでなく、ユーザーに対する責任に重点を置くべき｣と具体的な実践方法が綴られています。
グレッグ・スキート氏は、｢コードや技術マニュアルを作成したり、職場文化にまつわる問題を考えたり、日常業務に携わる企業の人々に実際に力を与えることが最終目標です｣と語っています。
｢予備知識を現実に使いやすいように、そして彼らがこれまでに見たことがあるかたちやスタンダードに近づけるため、我々はあえてビジネスやエンジニア向けの言葉を使いました｣
未来だけでなく、今の課題に取り組むことが必要
AIとテクノロジーの未来に大きな疑問を投げかけているのは、バチカンだけではありません。
OpenAIがChatGPTを世に送り出したわずか数カ月後、同社のサム・アルトマンCEOはすでにバイデン大統領と会談し、AIをどのように規制すべきかについて議会で証言していました。
しかし、ハイテク企業のCEOたちの話を聞くと、彼らが注目しているのは｢いつかロボットが世界を滅亡させる｣という、SFじみた遠い未来の話ばかりな気がします。
最近、数百名ものハイテク企業の幹部が、以下のような一文の声明に署名をしました。
AIによる絶滅のリスクを軽減することは、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項であるべきだ。
こうした懸念が現実的か否かは別として、未来にばかり焦点を当てるのは｢今、実際にAIテクノロジーによって人々が直面する問題から、規制当局の目を逸らそうとしているのではないか｣という批判も挙がっています。
幸いハイテク事業に関して、バチカン側もこれまでに幾度となく｢我々は黙示録についてどう考えたらいいのか｣という疑問に答えてきた経験値があります。
ブレンダン神父は、｢AIによる脅威が存在することは深刻ですが、短期的なAIの問題も同様に注目に値します｣と話しています。ただしローマ教皇自身がChatGPTを使用したかどうかということについての見識は示されませんでした。
｢主要なガードレールは絶対に必要であり、いずれ国や政府がそれを導入するでしょう。
しかし、このガイドブックは設計者や消費者が（AI）導入のアプローチを早急に進める上で、重要な役割を果たします。
我々がやろうとしているのは、私たちが必要とするスタンダードを、企業が事前に満たすことができるようにということなのです｣
