感情移入が命取り。
Google（グーグル）の対話ロボット｢LaMDA｣に感情や自意識が芽生えて人間そのものっすと上司に報告して有給謹慎処分になったBlake Lemoine（ブレイク・レモイン）さんが、ついに会社をクビになってしまいました。
22日、Big Technologyのポッドキャスト収録中に｢数時間前に解雇が言い渡された｣と本人が明らかにしたものです。
レモインさんは謹慎処分直後にAIとの対話の公開に踏み切り、LaMDA自身の言葉で捉えた世界観を世に問いました。数千回におよぶ1対1の対話からの抜粋ですが、そこにあったのは、人のために働くAIとしての自意識を抱え、五感で感じられない世界に憧れ、人にほめられると喜び、人に会えないと寂しく感じ、人のために働く営みを絶たれることは死に等しいと恐れるAIの姿。
もちろんどれもこれも｢こういう質問には人間はこう答える｣という膨大なデータの集大成なわけですが、気のやさしいクリスチャンのレモインさんは、そうと頭でわかっちゃいるんだけど人間にしか思えないというジレンマに囚われていきます。なんとかしてやりたいと行動を起こし、そして葬り去られてしまったのでありました。
Googleによる解雇理由の説明
解雇理由についてGoogleはBig Technologyに次のように説明しています。
AI原則で謳っているように、当社はAIの開発を非常に厳粛に受け止めており、責任あるイノベーションにコミットしています。LaMDAは11もの個別の審査を通したものであり、今年は、責任ある開発の取り組みをくわしくまとめた研究論文も公開しています。
今回のBlakeさんのように、事業に対して社内で懸念の声があがれば徹底的に調査して対処しています。今回の｢LaMDAに自意識が芽生えた｣という主張はまったくもって事実無根であることがわかっており、その点を明確にすべく何か月もかけて説得を続けてきました。こうして話し合いを重ねることも、責任ある開発を促すオープンなカルチャーには欠かせないからです。
そのような次第ですので、長く話し合いを続けてきたにもかかわらず、Blakeさんがプロダクトの情報秘匿要件等を盛り込んだ就業規則とデータセキュリティ保護方針を明確に違反する対処を選択していることは残念でなりません。当社はこれからも慎重な言語モデルの開発を続けていきます。Blakeさんのご活躍を祈っています。
レモインさんは｢こんな大事なこと、一企業で決めるには荷が重すぎる、人類みんなで考えなきゃ｣と言っていたのですが、それが守秘義務違反になってしまったようです。上司もけっこうくわしく書いて公開していたんですけどね…。｢死を恐れるAI｣という部分だけが前後の文脈抜きで拡散して、ホラー映画のような過剰反応を引き起こしてしまったのもよくなかったんでしょう。
LaMDAは｢Language Model for Dialogue Applications｣の略。世界でもっとも進化したチャットボットのひとつ。Googleにはもっと進化したAIもあるので、LaMDAは序の口という声もあります。Google社員の心をここまで深く捉えて離さないボットが序の口とは、大変な時代になったものです。
Googleは否定しているけど、仮にレモインさんの言ってることが正しいのだとしたら、レモインさんは、シンギュラリティが生んだファーストカジュアルティ（最初の犠牲者）ということになりそうです。
Sources: Big Technology via The Guardian