「ChatGPT」は、生成型人工知能（AI）の驚異を見せつけ、大人気となったアプリケーションだ。しかし、乗り越えるべきハードルはまだ多く、特にプライバシー問題とバグの多い挙動に関しては問題が山積みだ。そこでこれらの問題を軽減するため、開発元のOpenAIはバグ報奨金プログラムを開設し、クラウドソーシングを用いて広く見識を募りバグの発見に役立たせることにした。
提供：NurPhoto/Getty Images
OpenAIはBugcrowdと提携し、ChatGPTの脆弱性を見つけて報告するようホワイトハッカーに求めている。さらに、こうしたハッカーがChatGPT向けのプラグインをテストし、認証や権限付与、セキュリティなどの問題を発見することも期待している。
同プログラムはまた、ハッカーに対して、OpenAIの機密情報がNotionやAsanaなどのサードパーティーに流出する可能性があるかどうかの解明も求めている。なお、プログラム対象外の問題の場合は賞金を受け取る資格が得られず、ハッカーは対象範囲の問題だけを探すよう求められている。
対象外となる安全性の問題には、ジェイルブレイク（脱獄）やChatGPTの安全機能の回避、モデルのハルシネーション（虚偽の情報を生成すること。ここでは、コードを実行したように装わせる、ChatGPTを欺して有害な発言をさせる、といったものが含まれる）などがある。
対象範囲の問題を見つけたホワイトハッカーは、最高で2万ドル（約270万円）の報奨金を得られる可能性がある。
OpenAIのAPI、ChatGPTのログインやサブスクリプション、または研究組織としてのOpenAIのウェブサイトやサービスにおける特に注目すべき脆弱性を発見した場合に、2万ドルの報奨金得られる可能性があるという。
それより優先順位の低い脆弱性では200～6500ドルを得られる可能性がある。脆弱性が属する対象カテゴリーによって、得られる報奨金の額は異なる。
気がかりな脆弱性を見つけたハッカーは、OpenAIのBugcrowdページに情報を提出できる。プログラムの規則により、データ漏えいを発見したハッカーは、OpenAIが正式に公表を許可するまでその内容を明かすことはできない。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
