｢ちょっと待て｣
爆速で進化しているAI。個人的にはこれからの未来が心配だったり、新しい世界の到来が楽しみだったりするのですが、テック業界の有名人たちはかなり真剣に危機感を覚えているようです。
イーロン・マスクを含むテック界の大物たちが、世界有数の人工知能研究所に対して、署名入りのオープンレターで｢6カ月はシステムの訓練を止めて｣と訴えているんですって。
社会にリスクをもたらす可能性がある
この書簡が発表されたのは、GPT-4の一般向けリリースの2週間後。その速さから考えても、専門家が危機感を覚えているのがわかります。
｢先進的なAIは、地球上の生命の歴史に大きな変化をもたらす可能性があります。そのため相応の配慮とリソースをもってして、管理と計画をしていくべきです。残念ながら、このレベルの計画と管理は行なわれていません。この数カ月、AI研究所はそのクリエーターですら理解、予測、制御不可能な、より強力なデジタルマインドを作る競争に巻き込まれてしまっています｣
TIMEによると、署名をしたのは1,000人以上で、イーロン・マスクの他に、アップルの共同設立者であるスティーブ・ウォズニアックや、『サピエンス全史 文明の構造と人類の幸福』で大ベストセラーとなったユヴァル・ノア・ハラリなどが名前を連ねているとのこと。
ちなみに、OpenAIの従業員は誰も署名しておらず、CEOのサム・アルトマンの名前が一瞬だけ出てきて、すぐにリストから消えたそうです。そうそう、Googleの社員は4人サインしているみたいですね。
この書簡では次のような問いかけもされています。
｢私たちは自問自答しなければなりません。私たちの情報チャンネルを、機械によるプロパガンダと虚偽で溢れさせていいのかどうか。充実した仕事を含むすべての仕事を自動化するべきなのでしょうか。やがて人間を凌駕し、取って代わる非人間のマインドを開発するべきなのでしょうか。私たちの文明をコントロールできなくなるリスクを冒すべきなのでしょうか。そんな決断を選挙で選ばれてもいないテックリーダーに委ねてはいけない｣
停止中に安全プロトコルを開発・実施すべし
とはいえ、書簡ではAIの訓練を6カ月やめてほしいと言っているだけで、AIを根本的にやめようなどと言っているわけではなく、6カ月を利用して安全性の研究を継続したいと考えているようです。
｢AI研究所と独立した専門家は、この機関を利用して高度なAIの設計と開発に関する一連の安全プロトコルを共に開発・実施するべきです。それらのプロトコルは、システムが合理的な疑念を超えて安全であると保証する必要があります｣
いきなり世の中がひっくり返るような技術が解き放たれてしまい、今は混乱の最中だと思います。心の準備、ちゃんとした法の整備やプロトコルがないまま、急激に成長しているのは危険なのでしょう。すぐにでも動きがありそうなので、引き続きAI関連のニュースには注視していきたいです。
Source:TIME
