悪い人がAIを使うとしたら…。
ネット犯罪と一言で言ってもその中身はいろいろあります。人の心に訴える人情系詐欺もあれば、マルウェアなどの技術的詐欺もあります。
その中で、AIの力を借りてさらに躍進（？）しそうなネット犯罪を専門家が解説しています。以下、The Conversationに寄稿されたランカスター大学でサイバーセキュリティを研究するDaniel Prince教授による解説です。
AIに関する警告は、今やユビキタス、どこにでもあります。中には、映画『ターミネーター』のようなイメージで、人類絶滅のリスクなんて恐ろしいものもあります。イギリスのリシ・スナク首相は。AIの安全性をディスカッションするサミットまで立ち上げています。
とはいえ、AIというものは今に始まったことではなく、我々はもう長い間ツールとして使ってきています。ショッピングサイトのおすすめ商品然り、道路標識を認識し車線の位置取りをサポートするクルマ然り。
AIとは効率を上げ、大量のデータを処理し、決断が容易になるようサポートするツールです。
非常に便利で誰にでも開かれたツールですが、この｢誰にでも｣の中には犯罪者も含まれてしまいます。すでにAIが利用された犯罪も、初期段階ですが目にしています。例えばリベンジポルノ生成に使用されるディープフェイク技術もその1つです。
テクノロジーの進化は、犯罪活動の効率化も高めてしまいます。犯罪者はより多くの人（ターゲット）にリーチでき、その詐欺内容もより巧妙になります。犯罪者が技術の進化をどう取り入れ、利用してきたか、過去の傾向からAIが今後犯罪にどう使われていくかを予測しました。
1：フィッシング詐欺の巧妙化
ChatGPTやGoogleのBardのような執筆サポート系AIツールを使えば、経験の浅いライターでも効果的なマーケティング文を書くことができます。これが犯罪に使われると、よりリアルで信じたくなるうまい文章でターゲットに接触することができます。
見た瞬間おかしいと気づくようなフィッシング詐欺のメールやテキストもありますが、ターゲットから情報を引き出すにはそれらしい文章が必要です。
フィッシング詐欺は、数を必要とするゲームのようなもの。世界では日々34億件もの詐欺メールが送信されていますが、私の計算では、この詐欺メールの文章が多少巧妙になり、0.000005％のメールが本物だと思われることで、年間のフィッシング詐欺被害者は620万人も増加することになります。
2：詐欺のやりとりが自動化
チャットメッセージや電話など、AIツールの最初の段階には、サービスとユーザーのやりとりの自動化があります。導入するとよりスピーディに対応でき、ビジネス効率が最適化されます。
何かを企業や団体に問い合わせをするとき、人間のスタッフが出てくる前に最初の窓口となるのは、AIシステムであることが増えています。
犯罪も同じことです。AIツールを利用すれば、人間スタッフでは不可能な規模で、大量のターゲットとのやりとりを自動化することができます。
メールや電話で銀行などの信頼のおける機関を模倣し、情報を引き出しお金を盗み取ることもできてしまうでしょう。
3：ディープフェイク
AIは現実世界にある大量のデータでトレーニングできる数学的モデルを生成することに長けています。
モデルの質が上がれば上がるほど、与えられたタスクもうまくなっていきます。動画や音声におけるディープフェイク技術はまさにこのいい例です。
AIスタートアップのMetaphysicが、テレビ番組『アメリカズ・ゴット・タレント』で審査員のサイモン・コーウェルがオペラを歌うというディープフェイク動画を披露しましたが、あれはこのテクノロジーの可能性を見せつけたと思います。
さすがにあそこまでの規模のフェイクは、ほとんどの犯罪者には不可能でしょうが、それでもAIを使ってメッセージやEメールに返信したり、電話をかけたり、留守電の音声メッセージを残したりは可能です。AIをトレーニングするデータもSNS上にある動画から集められますしね。
ネット犯罪において、未来のターゲットの情報を探すのにソーシャルメディアほど豊富なプラットフォームはありませんが、今ではそれがディープフェイク作りに活用されてしまう可能性にまで広がっています。
ディープフェイクを使ってあなたの友達や家族に接触を図り、あなたの個人情報を入手するということは起こり得ます。ターゲットの生活をより知ることができれば、パスワードやピン情報などの予測も簡単になります。
4：ブルートフォースアタック（総当たり攻撃）
｢ブルートフォースアタック｣という、考えられるすべてのパターンを試すという数打ちゃ当たる方式のパスワード突破法も、AIによって容易になります。
総当たり攻撃にはかなりのリソースが必要となりますが、もしターゲットの情報があれば少し楽になります。
例えばパスワードの候補リストを優先度の高いものから試すことができれば効率がアップします。優先度の高いものとは、あなたの情報から割り出した家族やペット、あなた自身に関するワードや数字を入れたパスワードから試すということです。
あなたのデータを元にトレーニングされたアルゴリズムがあれば、より優先度の高いリストを作成しやすくなり、1度にターゲットにできる人も増えます。AIのおかげで必要なリソースも少なくて済みます。
特定のAIツールができれば、ユーザーのオンラインデータだけを取り、それを解析してあなたというプロファイルを作ることもできるでしょう。
例えば、あなたがテイラー・スウィフトに関することをよくSNSにポストしているとします。これを手作業で調べてパスワードのヒントを探るのはとんでもなく大変な作業です。
しかし、自動化ツールがあればスピーディかつ効率よく行うことができるでしょう。データを集めてプロファイルを作り、そこからパスワードを推測すれば簡単です。
恐れるな、学び適応せよ
社会に利益をもたらすかもしれないAI。怖がっていてはいけません。
ただ、どんな新技術でも、社会はそれを理解し適応する必要があります。今では当たり前のスマートフォンだって、最初は社会が適応するところからでしたし、大部分では有益な存在となっていますが、例えば子どものスクリーンタイムなど不確かなリスクは今も残っています。
私たち個人は、現状に満足せず、AIを理解しようとする姿勢が大切です。私たちなりのAIへのアプローチ法を作り、同時に健全な懐疑の念も持っていていいのです。
読み、聞き、見たことの正当性をどう確かめるべきか、それを考える必要があります。そしてこの基本的な行動が、社会がAIの利便性を教授する助けとなり、将来的なリスクから自分を守る術となるのです。
