チェック・ポイント・ソフトウェア・テクノロジーズ株式会社は1月19日、「ChatGPT」のサイバー犯罪への悪用が始まっており、AIによる悪質なコード生成がサイバー犯罪者の最新トレンドとなりつつあるとして、情報を公開し、警告した。
ChatGPTは、米OpenAIが2022年11月に公開した自然言語処理ツールで、ウェブサイトのチャット風インターフェースから、自然な会話のようなやり取りで調べ物などを行える。「GPT」とは「Generative Pretrained Transformer」の略で、「文章生成言語モデル」と訳される。入力されたテキストに応じて、対話を続けるように文章を生成するもの。
日本語にも対応しており、「トマトを使った簡単なレシピ」「ティラノサウルスの生態は？」のような問いかけをすると、返答となる文章を返してくる。プログラムの生成も可能で、簡単な例では「HTML文書に挿入する、アクセスしたユーザーに”hello”とダイアログボックスを表示するjavascriptのコード」と入力すれば、それを実現するコードと使い方が返され、JavaScriptのコードを書けない人でもコードを入手できる。ChatGPTのウェブサイトでは、エラーが発生するコードを示して、修正方法をたずねる例も紹介されている。
ChatGPTで「HTML文書に挿入する、アクセスしたユーザーに”hello”とダイアログボックスを表示するjavascriptのコード」をたずねたところ。質問に対応してコードと使い方が示されている
マルウェア作成のほか、OpenAI悪用に関する議論の事例も
チェック・ポイントの脅威インテリジェンス部門であるチェック・ポイント・リサーチ（CPR）は、ChatGPTを悪用した例として、3件の事例を紹介。「これが単なる仮説的な脅威なのか、あるいは既に脅威アクターが（ChatGPTのような）OpenAIの技術を悪質な目的に利用しているのか」が問題であるとし、分析の結果、すでにサイバー犯罪者がOpenAIを利用して悪意あるツールを開発していたことが判明したと報告している。OpenAIを利用したサイバー犯罪者が、ソフトウェアの開発スキルを持たないことを示す事例も複数あったという。
また、CPRが今回紹介した事例は3件とも基本的なものだが、より高度なスキルを持つ脅威アクターが、AIをベースとしたツールの悪用方法を拡大していくのは時間の問題だと指摘している。
事例1：インフォスティーラーの作成
2022年12月29日、アンダーグラウンドの人気ハッキングフォーラムに、マルウェアをGhatGPTを使って再現したものとして、Pythonをベースとしたインフォスティーラー（情報窃取プログラム）のコードが投稿された。CPRの分析によると、投稿者が主張するように、PC内のMicrosoft Office文書ファイルなどを検索し、圧縮してウェブ上に送信するプログラムだったという。
この投稿を行った脅威アクターは、ほかにも悪意のあるコードの投稿を行っており、技術力の低いサイバー犯罪者に対し、即座に使用可能な実例を挙げながらChatGPTの悪用方法を紹介することが目的だとCPRでは分析している。
ChatGPTを用いたインフォスティーラーの作成過程を公開する投稿
事例2：暗号化ツールの作成
2022年12月21日、「USDoD」と名乗る脅威アクターが、自身の初めて作成したスクリプトであるとして、Pythonスクリプトを投稿した。投稿者であるUSDoDは、そのスクリプトがOpenAIの助けを借りて作成したものだと認めたという。
このスクリプトはファイルの署名、暗号化、および復号を行うもので、悪意のある用途以外にも使える。しかし、PCをユーザーの操作なしで完全に暗号化するような内容へ書き換えることも容易で、例えばランサムウェアに転用できる可能性も秘めているという。
USDoDは開発者でなく、技術力は限られているようだが、アンダーグラウンドのコミュニティ内では非常に活発で評判の高いメンバーであり、窃取された情報を販売するなどの、さまざまな違法行為に関わっているとしている。
USDoDによる暗号化ツールに関する投稿
事例3：ChatGPTの悪用方法に関する議論
2022年12月31日に、「ChatGPTを悪用しダークウェブマーケットのスクリプトを作成する」という投稿が行われた。ここでいうダークウェブマーケットは、盗まれた口座やクレジットカード、マルウェア、あるいは麻薬や弾薬など、さまざまな違法品や盗品の自動取引を行い、それらの支払いを全て暗号通貨で行う役割を持つ。そのためのプラットフォームの開発にChatGPTを使用する方法として、サードパーティー製のAPIを利用して最新の暗号通貨（Monero、Bitcoin、Ethereumなど）の価格を取得するコードの一部を公開しているという。
また、2023年のはじめには、複数の脅威アクターがアンダーグラウンドのフォーラム内でChatGPTを利用した詐欺の手法について議論している。具体的には、OpenAIの別の技術を用いて手あたり次第にアート作品を生成し、合法なオンライン商取引プラットフォームで販売することや、ChatGPTを使用して特定のトピックに関する電子書籍や短い文章を生成し、そのコンテンツをオンライン販売する方法などが論じられているという。
ChatGPTを用い、ダークウェブマーケットのスクリプトを作成した投稿
CPRは引き続き調査を継続
こうした情報のまとめとして、チェック・ポイントでは、「ChatGPTの機能が、ダークウェブの住人の新たなお気に入りツールとなるかどうか、判断するには時期尚早です」とコメントしている。ただし、しかしサイバー犯罪者のコミュニティはすでにChatGPTに大きな関心を示しており、AIを悪用して悪意あるコードを生成する最新のトレンドに飛びついているとして、追跡調査を継続すると述べている。
