2021年9月頃、海外紙のウォール・ストリート・ジャーナルが、Facebookの元従業員が流出させた文書をもとに「FacebookはInstagramが10代の少年少女にとって有害であるという調査結果を認識していながらも隠していた」と報じました。Facebookのフランシス・ハウゲン氏によって公開されたこれらの文書は「Facebook Papers」と呼ばれ、さまざまな報道機関により関連する情報の調査が行われています。
The Facebook Files – WSJ
https://www.wsj.com/articles/the-facebook-files-11631713039
Eight things we learned from the Facebook Papers – The Verge
https://www.theverge.com/22740969/facebook-files-papers-frances-haugen-whistleblower-civic-integrity
海外紙のThe Vergeは、Facebook Papersで特筆すべき情報を8つピックアップしまとめています。
◆1：Facebookは新型コロナウイルス感染症のワクチンについてのコメントを処理する十分な準備ができていなかった
2021年3月付の文書によると、新型コロナウイルス感染症に関する投稿に寄せられた「ワクチンに関する間違ったコメント」に対する準備が十分に行われていなかったとのこと。3月時点でFacebookチームはパンデミックの情報を処理するチームを結成しており、誤情報に自動でフラグ付けを行うシステムを構築していたとのことですが、このシステムは十分に機能しておらず、誤情報がワクチン関連の記事に関するコメントの5分の1に含まれているような状態だったとのこと。
The Vergeは「Facebook Papersに記された文書を読む限り、Facebookは問題を過小評価していた可能性がある」と記しています。
◆2：FacebookはAppleから「アプリで労働者が売買されている現状」に対応するよう警告されていた
2019年10月、AppleはFacebookとInstagramにおいて「家事使用人が労働力として販売されており、販売者は家事使用人のパスポートを没収するなどして虐待するよう買い手に勧めている」ことを発見。Facebookにこれらの情報に適切に対応するよう警告を行っていました。
Facebook Papersによると、Facebookはこの問題を認識していましたが、実際の被害報告数が非常に少なかったために、問題の規模は認識していなかったとのこと。ただし、Appleの警告を受けて、Facebookは最終的に1021個のアカウントを無効にし、約13万個のコンテンツを削除。家事使用人についての広告掲載に関するポリシーも変更するなど、早々に問題に対応しています。
なお、Facebookが発展途上国などにおける暴力的なコンテンツの存在を認識していたにもかかわらず対応していなかった問題については、海外紙のロイターが取り上げています。Facebookは暴力的なコンテンツに取り組む方法としてAIを利用したフィルタリングシステムを導入しているとのことですが、主要な言語圏以外では十分にシステムが機能せずに暴力的なコンテンツが増長。Facebookの元従業員はこの問題に関し「リーダーが重要性を理解しておらず、十分なリソースが投じられていない」と語っています。
Facebook knew about, failed to police, abusive content globally – documents | Reuters
https://www.reuters.com/technology/facebook-knew-about-failed-police-abusive-content-globally-documents-2021-10-25/
◆3：マーク・ザッカーバーグCEOが従業員のアイデアを直接拒否することがあった
従業員がFacebookがユーザーに与える悪影響を軽減するためのアイデアを考案したにもかかわらず、ザッカーバーグ氏が直々にそのアイデアを却下したことが文書に記されていたとのこと。ザッカーバーグ氏が独断専行に走ることの問題については、特にFacebookがベトナム政府からの反体制派に関するコメント検閲要求に屈した事例に大きく影響が現れているとThe Vergeは指摘。この事例において、ザッカーバーグ氏は年間10億ドル(約1140億円)以上の収益を上げているベトナムで利益を優先するため、ベトナム政府がプラットフォームをほぼ完全に管理できるように独断で判断を下したとのこと。
◆4：Facebookはモデレーションのテストケースとしてドイツの反ワクチン運動を利用していた
運営側がコメントをチェックするモデレーション作業において、Facebookが新たに設けた「有害なトピックコミュニティ」という分類がうまく機能するか、ドイツの反ワクチン運動で実験していたことが明らかになりました。ドイツで陰謀論を拡散するQuerdenkenというコミュニティは暴力の可能性を秘めていたものの規約違反として排除できるほどの極端な活動は行っていなかったとのことで、Facebookの従業員はQuerdenkenで実験を行うことについて「将来これらの問題にどのように取り組むかを学ぶ良いケーススタディになる可能性がある」と文書に記しています。なお、文書には「実験が比較的効果的であった」とも記されています。
◆5：ジョー・バイデン大統領就任の際の混乱対策についての記録
バイデン氏のアメリカ大統領就任を阻止しようと、ドナルド・トランプ元大統領の支持者が市民を扇動するという可能性に備えた対策を用意していたにもかかわらず、実際は十分に機能せず、技術的あるいは官僚的な停滞によって混乱が巻き起こったとのこと。
◆6：Facebookは「市民の健康」のためにニュースフィードのバランスを元に戻そうとしていた
Facebookのニュースフィードアルゴリズムが理想的に機能しておらず、市民の二極化を促しているという問題についてFacebookは認識しており、ユーザーにとって本当にいいコンテンツを提供するためにユーザーにアンケートを採るなどして対応を試みていたことが文書に記されていました。The Vergeによると、Facebookは2020年2月にコンテンツの最適化を実施し、同年3月までにシステムの構築を目指していたとのことですが、実際にどうなったかは不明であるとのこと。
◆7：FacebookやInstagramで「いいね」が強制非表示にならなかった理由
「プロジェクト・デイジー」と名付けられたFacebookやInstagramで「いいね」を強制的に非表示にする計画は、「広告収入の減少とアプリの使用率低下により」一部変更されたことが明らかになりました。この計画を提案したInstagramのチームは「ユーザーの『いいね』によるプレッシャーからの解放」を目指していたとのことですが、Facebookのチームはさほど興味を示さなかったとのこと。また、経営者層は「Facebookへの打撃を最小限に抑えること」「Facebookへの信用を維持すること」を求めていたことも明らかになっています。最終的に、両サービスにおいて「いいね」の非表示は選択制の機能として導入されました。
◆8：Facebookの「市民団体向けポリシー」に単純な設計上のミスが発覚
2020年10月、Facebookはアメリカ国内のユーザーに「市民団体や政治団体をおすすめとして表示すること」を取りやめると発表しました。しかし、内部文書には、この決定はFacebookにとっての大きな課題を生んだということが記されています。
文書には「早くとも2020年11月には市民団体や政治団体がおすすめとして表示され始めた」と記されており、Facebookの施策が意図した通りに機能していないことが示されています。当時、Facebookのオブザーバーは「どのグループが市民団体なのか」を明確に線引きすることは難しい哲学的問題であり、Facebookという大規模なプラットフォーム全体で実行することは困難を極めるという認識が持たれていたとのこと。
しかし実際のところ、フィルタリングアルゴリズムが「過去7日間のコンテンツを参照しフィルタリングする」という設計になっていたために、当該団体が7日間非政治的コンテンツのみを投稿することで簡単にラベル付けを回避できていたということが判明しました。
この記事のタイトルとURLをコピーする
