AI研究団体のOpenAIが、対話型AIの「ChatGPT」をより安全に使用できるようにするため、ケニアの労働者を時給2ドル(約260円)以下で雇い、データセットに使われる膨大な量のテキストから有害なコンテンツをフィルタリングさせる作業を行わせていたと報じられています。
????Exclusive: OpenAI used outsourced Kenyan workers earning less than $2 per hour to make ChatGPT less toxic, my investigation found
(Thread)https://t.co/302G0z7vy3
— Billy Perrigo (@billyperrigo)
OpenAI Used Kenyan Workers Making $2 an Hour to Filter Traumatic Content from ChatGPT
https://www.vice.com/en/article/wxn3kw/openai-used-kenyan-workers-making-dollar2-an-hour-to-filter-traumatic-content-from-chatgpt
ChatGPT was taught by the world’s poorest people | Metaverse Post
https://mpost.io/chatgpt-was-taught-by-the-worlds-poorest-people/
OpenAIはデータラベリングなどの業務を請け負う企業・Samaと提携しており、ChatGPTの学習するデータセットから有害なコンテンツを検出してラベル付けして排除することで、ChatGPTが人種差別的あるいは性差別的なテキストを生成しないようにしています。
Samaから作業を委託された労働者が担当していたのは、ChatGPTのトレーニングデータセットから、児童への性的虐待や近親相姦、獣姦、殺人、自殺、拷問、自傷行為など、性的だったり暴力的だったりするNSFWコンテンツのフィルタリングだったとのこと。その結果、労働者はこうしたNSFWコンテンツの内容に強制的に目を通さなければならなかったと、独占的に報じたアメリカの週刊誌・TIMEは指摘しています。
Their working conditions reveal a darker side to the AI boom: that AI often relies on hidden, low-paid human workers who remain on the margins even as their work contributes to a multibillion-dollar industry. (6/8) pic.twitter.com/zLXfgGjIwM
— Billy Perrigo (@billyperrigo)
実際に作業を担当したケニア人の労働者は「幼い子どもが見ている中で犬とセックスする男についての文章を読み、繰り返し起こる幻覚に苦しみました。あれは拷問です。そういった文章を1週間を通じていくつも読むことになります」と語っています。給料は年功序列と業績に基づいて決められており、時給1.32ドル(約170円)から2ドルだったとのこと。
IT関連ニュースサイトのMotherboardによれば、このChatGPTの例に限らず、AIのイノベーションが低賃金で働く労働者によって支えられている構図はよくあるとのこと。SamaはMetaのAI向けデータセットから処刑や児童虐待の画像や映像をフィルタリングする作業を行っており、この作業も時給1.5ドル(約190円)で行われていたそうです。
Samaの作業内容をTIMEが報じた直後、Samaのウェンディ・ゴンザレスCEOはMetaから請け負った仕事を打ち切り、OpenAIの仕事を縮小するように社内に指示したとのこと。しかし、この決定によってSamaから仕事を請け負っていた労働者は仕事を失うことになりました。
Motherboardは「AIの専門家はイノベーションよりもいかに人間を倫理的にプロセスへ組み込むかに焦点を当てて、機械学習の基盤を構築する人間の労働を明るみに出したいと考えています。これには、力の不均衡を認めること、ヒューマン・イン・ザ・ループについて透明性を高めること、労働条件を改善してデータのラベリングやモデレーティング以外にも労働者の機会を創出することが含まれます。ChatGPTを構築する上で労働者から搾取しているという事実は、ChatGPTが魔法や魅力からいかにかけ離れているかを思い起こさせ、その革新をどれほど賞賛すべきかを再考させるものです」と述べています。
ただし、「OpenAIがケニアの労働者を搾取している」とするTIMEの報道については、ケニアでの時給2ドル、すなわち月給320ドル(約4万1000円)がケニアの平均的な生活賃金よりも53％高いため、労働者には十分な報酬が支払われているという指摘もあります。
この記事のタイトルとURLをコピーする
