ヤフー株式会社は12月6日、Yahoo! JAPAN内の投稿型プラットフォーム（ニュース、知恵袋、ファイナンス）における誹謗中傷など不適切な投稿への対応状況をまとめた「2021年度メディア透明性レポート」を公開した。
本稿では、主にYahoo!ニュースに関する内容を紹介する。同社は、Yahoo!ニュース内のコメント（通称「ヤフコメ」）について、ほかのユーザーの意見や考えに触れることで、自分の考えの整理、ニュースをより深く多角的に理解するきっかけ作りなどを目指しているという。
コメント欄の運用においては、ユーザーが安心して利用できるようにするためのコメントポリシーを定めており、ポリシー違反があった場合には、対象投稿の削除やコメント投稿停止などの処置を行っている。また、2022年11月15日より、コメント投稿において携帯電話番号の設定を必須化している。
ヤフコメ削除率は前年度からやや低下の3.22％
Yahoo!ニュースにおける21年度の投稿数は1億5923.2万件（月平均1326.9万件）で、投稿削除件数は513.1万件（月平均約42.8万件）だった。投稿件数のうち投稿削除件数が占める割合は3.22％となっており、昨年公表時の3.3％からやや低下した。
投稿削除件数及び削除割合の四半期ごとの推移では、7～9月期に緊急事態宣言の発出や東京オリンピック・パラリンピックの開催などを背景として投稿件数が大幅に増加。これに伴って、投稿削除件数も増加した。
AIと専門チームの「人の目」による投稿監視を実施
違反投稿の監視を、AIと専門チームにる目視確認を組み合わせて行っている。AIは、同社が独自に開発したスパコン「kukai」などを活用した機械学習システムを導入しており、迅速に禁止行為に抵触する投稿を検知できる仕組みを構築している。
AIと人の目による削除の割合では、削除した投稿のうち75.5％がAIにより、24.5％が人の目による、という結果だった。
AIは「不適切投稿判定」と「関連度判定」の2モデルより自動削除を実施
AIによる違反投稿であるかどうかの判定は、2つのモデルを使用している。過度な批判や誹謗中傷、差別、わいせつ、暴力的などガイドラインの項目に違反するおそれのあるコメントを判断する「不適切投稿判定モデル」による削除が、AIによる自動削除全体の61.5％、ニュース記事とコメントの関連度をAIが判定する「関連度モデル」による削除が38.5％だった。
AIによる四半期ごとの自動削除件数の推移について見ると、7～9月期においてコメント数の大幅な増加とともに、削除数も大きく増加している。この傾向に対して、AIが違反投稿の発見・削除に一定程度、有効に機能していたことを示唆しているとしている。
専門チームは「ユーザーからの申告」と「巡回・AI判定」を契機に判断
専門チームによる投稿の削除は、投稿ごとに非表示・申告ボタンを設置した「ユーザーからの違反申告」と「専門チームによる巡回・AIによる判定」の2つの契機に大別している。
専門チームによって削除された投稿のうち、専門チームによる積極的な巡回・AIによる判定を契機としたものは78.9％、ユーザーからの違反申告を契機としたものは21.1％だった。
削除理由の内訳は、誹謗中傷やヘイトスピーチ、アダルト関係などユーザーが不快に感じると思われる「不快投稿等」が53.5％、「重複投稿」が25.8％、「関連性なし」が13.4％、いわゆる”荒らし投稿”を含む「総合判断」が5.8％、「その他」が1.8％だった。
「不快投稿等」として削除されたものについて、さらに理由の内訳を見ていくと、「過度な批判や誹謗中傷等」が68.1％、「被害者・関係者に対する不謹慎な投稿等」が11.7％、「民族差別・ヘイトスピーチ」が7.2％、「アダルト・低俗」が5.5％、「その他」が1.8％だった。
「不快投稿等」の内訳
プロバイダ責任制限法にもとづく削除や開示請求受付などの活動も
ヤフーは、「プロバイダ責任制限法（特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律）」上のプロバイダとして、提供している各投稿型プラットフォームサービスについて、利用規約に違反する投稿などによって権利を侵害された利用者から、投稿削除請求や投稿者に関する情報の開示請求を受け付けている。
次の表では、削除・開示請求の受付及び実施の実績を裁判外の請求及び裁判上の請求（訴訟）に分けて示している。
裁判内外での削除・開示請求は全21件
裁判外の請求をみると、削除請求件数は3件、開示請求件数は6件で、いずれも名誉・信用・プライバシーの侵害を理由とするものだった。
裁判上（裁判内）の請求をみると、削除請求件数は2件、開示請求件数は10件で、こちらも全件が名誉・信用・プライバシーの侵害を理由とするものだった。前年度である2020年度は裁判外の削除請求14件、開示請求7件、裁判上の削除請求2件、開示請求11件で、削除請求は減少したが、開示請求は前年並みだったとしている。
違反ユーザーにはアカウント停止措置も行い厳正に対処
2021年6月～2022年3月の期間、投稿停止処置を受けたIDの数は、月平均で約1140件だった。投稿停止措置は、コメントポリシーへ違反の重大性や違反回数に応じて行っているという。
また、投稿停止措置を受けたユーザーに対しては、Yahoo! JAPAN ID登録情報である携帯電話番号を削除の履歴と照合し、同一の携帯電話番号を利用してIDが再取得されるなどした場合に、当該IDからのコメントの投稿を制限している。
コメント評価AIの提供などネット言論空間の健全化に取り組む
Yahoo!ニュースでは、2020年9月より建設的モデル（建設的コメント順位付けモデル）の APIを外部に無償提供している。これは、ニュースに付けられたコメントを評価し、建設的なコメントを上位表示する技術で、AI開発の初期投資をかけずに、自社サービスにおけるコメントの健全化に向けた対策を実施可能だとしている。
また、同社はインターネットにおける偽情報の流通の対策やファクトチェック・イニシアティブ（FIJ）の活動、関係省庁との連携などに取り組んでいる。