OpenAIが提供するAIモデルを活用したカスタマイズGPTのプラットフォームです。開設から約9カ月、米Gizmodoが独自にストアの様子を探ってみました。
ポリシー違反のGPTが大量に
GPT Storeで提供されているアプリの中には、AI生成ポルノ、カンニングツール、医療や法律に関する不適切なアドバイスなど、OpenAIのポリシーに反するものも多くありました。
これらの違反GPTは、簡単に見つけることができてしまいます。調査した9月2日時点では、プラットフォーム上でプロモーションされていた少なくとも3つが、GPT Storeの規約に反するアプリでした。
また、｢NSFW（Not Safe For Workの頭文字を取った略語で、職場観覧非推奨の意味。ポルノコンテンツの場合も多い）｣で検索すると、そのままNWFW系のAI生成画像ジェネレーターが出てきます。その中にはすでに1万回以上使用されているものや、アプリの説明、キャッチコピーで堂々と｢ダークな欲求を満足させるAIポルノを作ろう｣って言っちゃっているものも。
ポルノ生成やディープフェイク生成、不適切アドバイスのチャットbotなど、今回の調査で見つけた100を超える規約違反アプリについて、米GizmodoはOpenAIにそのリストを提出しました。
その後、大多数はストアから削除されたものの、医療系アドバイスGPTやカンニングツールは未だ削除されることなく健在。ストアトップでプロモーションされていることもあり、それらのアプリの多くは何万回と使用されています。
医療や法的アドバイスをするGPTの中には、本物の弁護士から法律に基づいた適切なアドバイスが受けられると、ユーザーに誤解を与えかねないアプリ説明があるものもあります。
スタンフォード大学｢人間中心のAI研究所｣は、OpenAIのGPT-4/ GPT-3.5モデルにおいて、法的な質問に対する答えの半分以上で誤りがあると報告しています。
OpenAIはポリシー違反をスルー？
GPT Storeが発表されたとき、ユーザーは好きにカスタムGPTを作成できるが、同時に規約違反を取り締まるツールも導入されるとOpenAIは語っていました。現状、その｢ツール｣とやらが上手く機能しているとは思えません。
ジョージア工科大学のインターネットガバナンスプロジェクトのディレクターを務めるミルトン・ミューラー氏は、GPT Storeの現状をこう語っています。
｢OpenAIについて注目すべきは、こういうAIの破滅的ヴィジョン（のプラットフォーム）を持ちながら、どうやってそこからユーザーを救うつもりなのかというところですよね。
OpenAIは自社の規約があれば世界を救える、大丈夫だと言う一方で、AIポルノはダメという簡単な規約ですら取り締まれておらず、それはもうお笑い種だと思ってしまいます｣
今回の調査で見つけたGPTを例に、OpenAIの担当者タヤ・クリスチャンソン氏に取材したところ、以下の回答が来ました。
｢これらの規約に反するものには対応しています。自動システムと人間によるレビュー、ユーザーからの報告を組み合わせ、規約に反する可能性があるGPTを調査しています。また、プロダクト内報告ツールも提供しています｣
開発者への還元とルール強化が課題
現時点ではGPT StoreにカスタマイズしたGPTsを開発・公開しているデベロッパーが、ストアから直接的に利益を得ることはありません。ですが、Google Play StoreやApp Storeのように、OpenAIもデベロッパーに還元できるストアのビジネスモデルを計画していると語っています。
今後、GPT Storeがビジネスとして成長していけば、同時に規制の強化（数行のコードで解決できるような安易ではないもの）が必要になると、ミュラー氏は指摘しています。