新しい ジェネレーティブAI ツールの懸念点とは?:Snapchatとメタも参入でSNSにもAIの波

DIGIDAY

Snapchat(スナップチャット)とメタ(Meta)の両社が最近新しいAI機能を発表したことで、ソーシャルメディアにおけるジェネレーティブAIの導入競争が加速している。

スナップ(Snap)社はこのほど、オープンAI(OpenAI)のChatGPTを搭載した「マイAI(My AI)」と呼ばれるSnapchat向けの新しいチャットボットをリリースした。このチャットボットは、テキストベースのメッセージを生成して雑学的な質問に答えたり、俳句を作ったり、レシピのアイデアを考えたり、旅行の計画を立てたりするのに役立つ。

適切な回答に失敗することも

さまざまな楽しさを提供する可能性はあるもののスナップはチャットにおける適切な回答に失敗する可能性もあると率直な警告も出している。

「我々はまだ多くの不備があることを認識しており、事前にそのことには謝罪したい」と同社のブログ記事には書かれおり、「マイAIとの会話はすべて保存され、製品体験を向上させるためにレビューされる場合がある。マイAIには秘密を共有したり、マイAIのアドバイスに頼るべきではない。偏った情報、誤った情報、有害な情報、誤解を招く情報を避けるように設計されているが、間違いが発生する可能性はある」との注意書きがある。

この機能は有料版ユーザーのみを対象としているが、Snapchatプラスのユーザー数は必ずしも少なくない。同社によると、現在250万人のユーザーが有料版に加入してマイAIなどの機能に早期にアクセスできており、これらの機能に対するフィードバックを提供することで同社がAI機能を構築する手助けにもなっているという。

スナップの導入の速さには称賛も、活用の動きは不透明

ChatGPTをアプリ内に統合することで、ユーザーは同アプリで費やす時間を増やすかもしれず、また同アプリを使っていない人々に対して、アプリを使いたくなる理由を提供できるかもしれない。スナップはOpenAIと協力して、アプリとしてのSnapchatの性質に基づいたトーンを持つようにチャットボットを訓練し、プラットフォームの信頼と安全のガイドラインにも従うようにした。

マーケティング担当者はスナップがAIによる新機能をいち早く導入したことを称賛したが、ブランドが活用したいと思うような明確な用途は(少なくとも今のところは)まだないようだ。

「ある程度の視聴者を獲得するまで、ブランドが盛り上がってそこに参入しようとするかどうかはわからない」とSnapchatとVMLY&Rの最高イノベーション責任者であるブライアン・ヤマダ氏は述べた。

メタは最新の大型言語モデル「LLaMA」を発表

このニュースの数日前には、メタがジェネレーティブAIについてどのように考えているかを垣間見ることができた。しかし、メタのニュースは、Facebookやインスタグラムの一般ユーザー向け機能を発表するのではなく、研究者にとってより直接的なポテンシャルを見せるものだった。このほど、同社はLLaMA(Large Language Model Meta AIの略)と呼ばれる最新の大型言語モデルを発表した。LLaMAのモデルはほかのものよりも小さい。たとえば、OpenAIのGPT-3には1750億のパラメータがあるが、メタのLLaMAには70億から650億までのサイズのモデルが含まれている。

LLaMAについてのメタのブログ記事では、偏見や有害なコメント、間違った回答のリスクを調査し対処するには、まだやるべきことがあることも認めている。また、政府や市民団体、業界の研究所に所属する学術研究者などをケースバイケースでアクセスできるようにする計画だとしている。

マーケティングAI企業ペルサード(Persado)の垂直戦略および製品マーケティング担当バイスプレジデントであるアレックス・オルセン氏によると、メタの新しい大型言語モデルとそれを訓練するために使用されたボットは、リソース不足の企業の助けとなる可能性があるという。また、メタのニュースはまだ、企業のAIへの取り組みにはそれほど役立つものではないという指摘もある。

「企業は、ジェネレーティブAIをマーケティングや顧客サービスに使用する前に、信頼できる事前に認定された企業データでトレーニングすることが重要である」とオルセン氏は電子メールで述べた。「ここ数週間、ジェネレーティブAIボットが非常に不適切なコンテンツを提供しているという報告が数多く出てきている」。

懸念点は信頼性。規模の制限が現実的?

企業や一般ユーザーがこの種のAI機能を望んでいるかどうかはまだ疑問である。モーニング・コンサルト(Morning Consult)が今月行った調査では、AIによるアウトプットが「非常に」信頼できると答えた消費者はわずか10%、AI技術をコントロールすることは簡単でないと答えた消費者は42%、責任を持って開発されるとは思わないと答えた消費者は44%だった。また、具体的な懸念について質問したところ、74%が個人データのプライバシーを「非常に」または「ある程度」心配していると回答し、70%がAIによる検索結果に誤った情報が含まれることを警戒していると回答した。

マーケティング担当者やAIの専門家は、大規模言語モデルの規模を制限しているメタの方針は賢明だと述べている。この方針によって、たとえばAI生成のコンテンツに関して一部で警告されているような、ほかのリスクをメタが軽減することができ、データプライバシーや誤情報に関して同社が過去に犯したいくつかの過ちを繰り返さないようにすることができる。

ブランド戦略会社シーゲル・アンド・ゲール(Siegel+Gale)のブランドコミュニケーション担当ディレクターであるスティーブ・スージー氏によると、メタはその大きな言語モデルへの限定的なアクセスを許可することで、その危険性は「ストリートドラッグ(のような危険さが自由に広まってしまう状態)よりも、もう少し規制された状態」にしているという。

「宇宙ほどの大きさのテニスコートで、審判が実際にいるのはそのなかの特定の場所だけ、といった状況を想像してみて欲しい」と同氏は言った。「そしてそのテニスコートの残りの部分、その面積全体において、テニスのルールに従わない新しいクールで奇妙なゲームが作られている。非常に強力なAI装置であるが、誰も監視できてておらず、悪用される可能性がある」。

[原文:With Snapchat and Meta’s new tools, generative AI enters the social media space

Marty Swant(翻訳:塚本 紺、編集:島田涼平)

Source

タイトルとURLをコピーしました