NVIDIA、GPTなAIチャットボットの行動規範を定義する「NeMo Guardrails」をオープンソースで提供

PC Watch

NVIDIAが発表したNeMo Guardrailsのイメージ、AIチャットボットに行動規範を実装することが可能になる(写真提供:NVIDIA)

　NVIDIAは4月25日(米国時間)に報道発表を行ない、同社がLLM(Large Language Model)向けの開発キットとして提供しているNeMo(ニーモ)のオプションツールとして、NeMo Guardrails(ニーモ・ガードレール)をオープンソースで提供を開始することを明らかにした。ChatGPTなどのLLMを利用したAIチャットボットのクオリティは日々上がっているのが現状だが、それゆえにAIチャットボットが提供企業の予想に反した動きをすることが問題になっている。

　そこで、NVIDIAはスクリプトベースで禁止事項を記述していけるNeMo Guardrailsを提供し、オプションでほかの学習ベースのAIチャットボット制御ツールと組み合わせることも可能にする。たとえば、子どもがAIを利用する、あるいはお金儲けの方法といった政治や金融などの微妙な問題を避けることや、ユーザーがジョークを言ってきた場合にどういう反応をさせるかなどに関して、「禁止事項」をあらかじめチャットボットに規定することが容易になる。

大企業がAIチャットボットを導入する上で課題になっているAIチャットボットの「禁止行為」

大企業(エンタープライズ)はLLMにプログラマブルな行動規範を組み込みたいと考えている(出典:NeMo Guardrails、NVIDIA)

　OpenAIのGPT-3/4などのLLMへの注目度は日々高まるばかりだ。GPTを開発したOpenAI自身のChatGPT、それらを応用したMicrosoftの新しいBing(通称:Bingチャット)などは、多くのユーザーが活用しはじめており、これまで考えられなかった使い方も当たり前になりつつある。

　NVIDIA CEOのジェンスン・フアン氏は、同社が3月に開催したGTC 2023(春)の記者説明会において「今はAIにとってiPhoneモーメントだ」と述べ、それまでは知る人ぞ知るデバイスに過ぎなかったスマートフォンが、AppleがiPhoneを発売したことで、一挙に普及が進んでいったという段階にAIもさしかかっていると表現した。

　同時にフアン氏は「AIは確実に制御する必要がある。そのためにガードレールが必要だ」とも述べ、そうした自然言語処理を利用したAIチャットボットを提供する時には、AIを確実に制御するためのガードレールを導入し、AIが提供側の意図とは違う動きをすることを制御することの重要性を訴えた。

NeMo Guardrailsの仕組み(出典:NeMo Guardrails、NVIDIA)

　今回NVIDIAが発表したNeMo Guardrailsは、そうしたAIを利用したチャットボットに対して、「禁止事項」を指示しておくオープンソースの開発ツールになる。NVIDIAはLLMを利用したチャットボットの開発ツールとして「NeMo」を提供しており、NeMo Guardrailsはそのオプションツールとなる。ただし、NeMoを利用していない場合でも、NeMo Guardrails単体で利用してAIチャットボットの制御機能を構築することが可能になる。

　NVIDIA アプライドリサーチ担当 副社長 ジョナサン・コーエン氏は「多くの大企業にとって、LLMを利用したチャットボットの導入をためらう理由が3つある。その懸念は、人間でも話題にするのが微妙な話題に反応してしまい問題になるのではないかという点、チャットボットが虚偽の情報を流してしまうのではないかという点、社外秘の情報が外部に漏れてしまうのではないかという点という3つだ。

　このため、我々はNeMo Guardrailsの提供を開始する。NeMo GuardrailsをAIチャットボットの一部として利用することで、AIチャットボットがそうした“事故”を起こすことを防ぐことができる」と述べ、NeMo Guardrailsを利用してガードレール機能を企業がクラウド側で実行しているAIチャットボットアプリケーションに組み込むことで、大企業がAIチャットボットに対する懸念を解消できると強調した。

NeMo GuardrailsはスクリプトベースでAIチャットボットに行動規範を与えて、制御可能にするための開発ツール

LangChainやZapierなどのサードパーティのLLM開発ツールキットと組み合わせて利用することも可能(出典:NeMo Guardrails、NVIDIA)

　NVIDIAのコーエン氏によれば、NeMo GuardrailsはNVIDIA自身が提供しているLLMの開発ツールキット「NeMo」に統合されて提供されるほか、LangChainやZapierなどのサードパーティのLLM開発ツールキットと組み合わせて利用することも可能だという。

　コーエン氏によれば「NeMo Guardrailsの禁止事項はスクリプトベースで簡単に設定できる。たとえば、金融関連の質問には答えないようにとする場合には“Financial”などのキーワードを設定して、そうした質問には答えないようにするなどの設定が可能だ」と述べ、スクリプトを編集していく形で禁止事項をAIチャットボットに設定することが可能になる。

NeMo Guardrailsを利用して実装できる行動規範や禁止事項(出典:NeMo Guardrails、NVIDIA)

　たとえば利用者がAIチャットボットに対してジョークを繰り出してきたときに、AIチャットボットはどんなトーンで反応するなどの設定も可能だという。端末の脱獄の実行などのユーザーの指示に対してできないと言うことや、ファクトチェックの機能、倫理的な規範を維持した反応などを、スクリプトを書き換えることで規定することができる。

提供形態(出典:NeMo Guardrails、NVIDIA)

　NVIDIAによれば、NeMo Guardrailsは既に提供が開始されており、Githubからソースコードを入手して、自社のAIチャットボットに組み込むことが可能なほか、NVIDIAのAIチャットボット向けフレームワークとなる「NeMo Framework」の一部としても入手することができる。また、NVIDIAがクラウドサービスとして提供しているAI開発環境である「NVIDIA AI Foundations」の一部としてマネージドサービスとしても利用することが可能になっている。

Source

コメント