立ち上がれ、バグ戦士たちよ！
ChatGPTの開発元であるOpenAIが｢Bug Bounty Program｣とよばれるバグ報奨金プログラムを開始すると発表しました。
OpenAIが提供するサービスの脆弱（ぜいじゃく）性やバグを発見すると、その重大性と影響度に応じて200ドル（2万7000円）～2万ドル（270万円）の報酬がもらえるようですよ！
セキュアなAIプログラムを目指して
OpenAIは、プログラムを一般公開した理由について、安全性の確保には透明性とコラボレーションが不可欠であることをあげています。
セキュリティー上の脆弱（ぜいじゃく）性やバグを特定した場合の報酬額は、重大性が低い発見の200ドル（2万7000円）から、例外的な発見の2万ドル（270万円）までの幅がもうけられています。
報奨金プログラムは、ソフトウエアのバグ報奨金プラットフォーム大手であるBugcrowdと提携して運営され、ユーザーから報告されるバグの受付や報酬の分配はBugcrowdが行なうそうです。
OpenAIは、報奨金プログラムについて以下の声明を出しています。
OpenAIの使命は、すべてのみなさんに利益をもたらすAIシステムを構築することです。安全で安定したAIシステムを確保するために、研究と技術開発に多大の投資を行なっています。
しかしながら、複雑なテクノロジーがすべてそうであるように、私たちのシステムにも脆弱（ぜいじゃく）性やバグが発生するであろうことも承知しています。
Bug Bounty Programは、私たちのテクノロジーと弊社の安全性確保に協力してくださるセキュリティー研究者の有益な知見に敬意を表し、それに見合った報酬を提供します。
加速する進化への期待と不安
昨年秋の公開以降、ChatGPTがすさまじい勢いで成長していることを踏まえると、バグ発見のクラウドソース的アプローチは、OpenAIの安全性を強化するための手段としてかなり無難なのでしょうし、おそらく多くのテックマニアが喜んで参加するんじゃないでしょうか。
また、Elon MuskがTwitterのアルゴリズムの一部をオープンソースにしたように、OpenAIがシステムを公開して透明性を確保するのは、世間に好印象を持ってもらおうという試みかもしれません。
AI怖いという印象を持たれて反感を買うと、発展の障害につながりかねませんものね。
ここ数カ月、ChatGPTはハンパなく世界を席巻しています。
ペンシルバニア大学ウォートンスクールの経営学修士課程（MBA）の最終試験に合格するわ、米Gizmodoの記事を書いちゃうわ（ほめられた記事じゃなかったみたいですけど）、自分は目が見えないと人間を説得してCAPTCHA（キャプチャ）を解かせようとするわ、なんでもござれです。
でも、AIの急速な進化と高効率化は、一部の専門家に一抹の不安を抱かせているようです。
セキュリティー対策を十分に施さないままのAI推進は、社会と人類に重大なリスクをもたらす恐れがあるとして、Elon Muskをはじめ2万3000人以上（4月13日の記事執筆時点）の専門家や技術者が、新たな大規模言語モデルの開発を一時停止するよう求める公開書簡に署名しています。
透明性の確保や研究者とのオープンなコラボレーションは、信頼性の高いセキュアなAIシステムをつくるうえで重要な一歩と言えるでしょうけど、やっぱり悪用を避けるためにルールをつくる必要はあると思います。
Reference: Future of Life Institute
