コンテンツモデレーション（投稿監視）とは？定義・メリット・課題について解説

「コンテンツモデレーションって何だろう？」

コンテンツモデレーションとは、不特定多数のユーザーによって投稿されたインターネット上のコンテンツ（書き込み・画像・動画）を監視する「モニタリング業務（投稿監視＝）」のことです。

チェック対象のコンテンツが、SNSやWebサイトを閲覧するユーザーにとって「不快」な内容になりうる場合、コンテンツを「削除」したり、投稿したユーザーを「アクセス禁止」したりします。

そうした処置によって、SNSやWebサイトを「健全・良好」な状態に保つのが、「コンテンツモデレーション（投稿監視）」の役割です。

こうしたなかで、コンテンツモデレーション（投稿監視）に興味を持つ企業が増えています。

しかし、コンテンツモデレーションと一口にいっても、その形態やタイプはさまざまです。自社のニーズに合ったサービスを導入しないと、思ったような効果が得られないこともありますから、注意が必要です。

そこで本記事では、以下について解説します。

「コンテンツモデレーションが何なのか、イマイチわからない」
「コンテンツモデレーション（投稿監視）の導入を検討しているが、自社に必要な
　のかわからない」

という方に、おすすめの記事です。それでは早速、みていきましょう。

1.コンテンツモデレーションとは？

まずは、「コンテンツモデレーション（投稿監視）とは何か」について、以下3点より解説します。

1-1.コンテンツモデレーション（投稿監視）の定義

コンテンツモデレーションの定義を改めて以下にまとめます。

例えば、皆さんが利用するFacebookやTwitterなどの「SNS」の場合。

善良なユーザーがいる一方、他者を誹謗中傷したり、他者の名誉を著しく傷つける「悪質な書き込み」を行うユーザーがいます。

それだけでなく、サイトの主旨にふさわしくない「アダルトコンテンツ」を悪意をもって投稿するユーザーや、精神的に大きなダメージを受ける「暴力・虐待コンテンツ」を投稿するユーザーもいます。

そのほか、企業を陥れるために行われた「悪意ある商品・サービスレビュー（＝口コミ）」を投稿するユーザーも少なくありません。

こうした「悪意あるユーザー」によって投稿される「悪意あるコンテンツ」を取り締まる「投稿監視行為」が、コンテンツモデレーションです。

コンテンツモデレーション（投稿監視）によって、Webサイトやメディアの「品質」や、企業の「ブランドイメージ」を維持するほか、「ユーザー離れ」を防いだり、サイトが犯罪の温床になることを防ぎます。

昨今では、インターネットの利用ユーザーの増大やIoT技術の進展に伴い、世界中のトラフィック量（＝データ通信量）は、すさまじい勢いで増えています。

「インターネット上でやり取りされるデータ量」および「ネットユーザー数」が爆発的に増え続けていくなかで「炎上対策」を担うコンテンツモデレーションの重要性は、益々高まっていくでしょう。

1-2.コンテンツモデレーション（投稿監視）サービスの種類

コンテンツモデレーション（投稿監視）は、大きく分けて4種類あります。

それぞれの特徴は以下の通りです。

ツールタイプ

「ツールタイプ」は、投稿監視システムを使った自動検出で、コンテンツをチェックします。

悪意ある有害コンテンツが発見された際には、メールでクライアント企業に通知することで、Webサイトやコミュニティサイトの品質を一定に保つのが特徴です。

大きなメリットは、有人監視タイプ（有人監視）よりも安価である点です。

自動検出であり、人件費が有人監視タイプよりもかからないため、リーズナブルなのです。

「サイトの品質を一定に保ちたいが、予算に余裕がない」「必要最低限のチェックができればいい」という場合には、ツールタイプがよいでしょう。

なお、ツールタイプでは、悪意あるコンテンツの検出を報告するだけでなく、「指定キーワード」に合致したコンテンツの監視結果をまとめた「サマリー」や「レポート」などを提供することも行われています。

・自社に対するメディアの報道
・口コミサイトの風評
・プレスリリースへの反響

「自社のブランドイメージの維持・向上を図りたい」「商品やサービスに対する反響を把握しておきたい」という場合には、ツールタイプがよいでしょう。

有人監視タイプ

「有人監視タイプ」は、投稿監視を行う「コンテンツモデレーター」が、目視で投稿コンテンツをチェックするものです。

有害コンテンツが発見された場合には、メールや電話などの手段により、クライアント企業に通知することで、Webサイトやコミュニティサイトの品質を一定に保ちます。

人間の目でチェックするため、システムによる自動検出で投稿監視を行う「ツールタイプ」よりも「監視精度」が高いのが大きなメリットです。

「どんな小さな投稿も見逃したくない」「システム任せでは不安だ」など、監視精度を重視する場合には、有人監視タイプを選びましょう。

なお、ツールタイプと同様、「指定キーワード」に合致したコンテンツの監視結果をまとめた「サマリー」や「レポート」の提出が行われます。

また、有人監視タイプでは「相談窓口」が設けられることが多いです。運用や監視体制について、継続的に相談しながら進めたい人も、有人監視タイプがよいでしょう。

AIタイプ

昨今、注目が高まっているのが「AIタイプ」の投稿監視サービスです。

AIタイプでは、人工知能（AI）による機械学習により、システムでありながら、監視精度と処理スピードを徐々に高めていけるのが、大きな特徴です。

ツールタイプに付きまとう「監視精度の低さ」を解決しつつ、有人監視タイプに付きまとう「コストの高さ」を解決できる可能性が高い点で、注目されています。

コンテンツモデレーションやデータ処理に使える「AI型API」を開発したHive（ハイブ）という会社は、2021年に「8500万ドル（約92億円）」もの資金調達に成功しています。この結果、同社の評価額は2200億円に達しました。

AIタイプが、いかに注目されているか、がうかがいしれます。

AI×有人監視による「ハイブリッドタイプ」

先述の通り、AIタイプは注目が高まっています。しかし、まだまだ発展途上の段階です。

そのため、AIタイプと有人監視タイプの“いいとこどり”をする「ハイブリッドタイプ」も登場しています。

「AI監視」を用いることで「投稿監視の効率化（監視スピードの向上）」を図りつつ、「有人監視」によって、監視精度を高めるのが、ハイブリッドタイプの特徴です。

以上4つが、コンテンツモデレーション（投稿監視）のサービスタイプです。

それぞれのサービスタイプの「強み・弱み」を比較検討したうえで、最適なものを選びましょう。

1-3.コンテンツモデレーション（投稿監視）サービスの選定ポイント3つ

コンテンツモデレーション（投稿監視）サービスを選定する際には、3つのポイントをチェックしましょう。

投稿監視を実施する範囲

コンテンツモデレーションサービスによって、投稿監視を行う範囲が異なります。

例えば、以下の通りです。

一見すると、サービスAの方が良いように思えます。

しかし、いずれかのメディアで問題が起こった場合、Twitterで取り上げられることが多いです。そのため「少ない予算で効率的に」と考えるならば、サービスBでもよいでしょう。

コンテンツモデレーションにかけられる「予算」に応じて、監視するメディアの優先順位を絞って、監視範囲を決めていきましょう。

監視の頻度

監視の頻度は、数時間おきでも問題ないケースもあります。

なぜならば、そもそも「荒らし」とみなされる行為をする人は、実はそれほど多くないからです。

ネット上の「炎上」に関する調査では、以下のことがわかっています。

出典：農林水産省「統計分析が明らかにする炎上の実態/対策とネットメディア活用方法」

投稿監視サービスを提供する事業者と相談して、標準的な監視頻度を決めましょう。

サポートの手厚さ

TwitterやFacebookなどのSNS上で、企業の不利益につながるような投稿が拡散してしまう場合があります。

そういった場合に、どのような対策を取ればいいのか悩んでしまう可能性が高いです。

そのため、投稿監視サービスを提供しているだけでなく、炎上に発展するような重大リスクが発生したときのサポートも行ってくれるような会社だと安心でしょう。

以上3つが、コンテンツモデレーションサービスを選ぶ際にチェックしたいポイントです。

上記のポイントを踏まえて、コンテンツモデレーションサービスを選定しましょう。

2.コンテンツモデレーションのメリット2つ

「コンテンツモデレーションとは何か？」について、ご理解いただけたのではないでしょうか。

続きまして、コンテンツモデレーション（投稿監視）には、どのようなメリットがあるのかについて解説します。ポイントは2つです。

一つずつ、みていきましょう。

2-1.「ユーザー離れ」を防げる

一つのメリットが「ユーザー離れ」を防げるという点です。コンテンツモデレーションを実行することで、ユーザーとのロイヤルティを維持できるのです。

例えば、あなたが猫の愛好家で、猫に関する掲示板サイトを利用していた場合。

猫にありがちな「あるあるエピソード」で笑ったり、かわいらしい猫の画像で癒されたりしたいはずです。

しかし、その掲示板サイトに「猫はきらい」といった投稿を繰り返したり、猫を虐待する動画が度々投稿されるようになったらどうでしょう。

どんなに好きな掲示板サイトだったとしても、管理が行き届いている掲示板サイトに乗り換えるのではないでしょうか。

一方、荒らし行為を発見次第、投稿を削除したり、荒らし行為をした当人を「アクセス禁止」にしたりすれば（＝コンテンツモデレーションを実行すれば）、ユーザーの離脱リスクを低減できるはずです。

この事例からわかる通り、コンテンツモデレーションは「荒らし行為」によるユーザーの離脱を防ぐ役割があるのです。

2-2.「企業のブランドイメージ」を維持できる

もう一つが「企業のブランドイメージの維持」です。

コンテンツモデレーションを実行すれば、企業のブランドイメージが傷つくリスクが大幅に減ります。

例えば、食品メーカー（仮にA社とします）がブランディングの一環として、Twitterを運用していたとします。

その際、ユーザーからのリプライにおいて「A社のカップラーメンに虫が混入していた」といった内容の投稿があり、それを放置していたら（＝コンテンツモデレーションを実行しなかったら）どうなるでしょうか。

企業の不祥事ともなれば、多くのユーザーの興味・関心をひきつけますから、あっという間にリツイート件数が伸び、ニュースにも取り上げられるほどの事態に発展する恐れがあります。

仮に、虫の混入が、ユーザーによる作為的なものであったとしても、企業のブランドイメージは悪化する可能性があるでしょう。

一方、コンテンツモデレーションの一環として、問題の投稿に対する原因究明・釈明をスピーディに行った場合。ブランドイメージを損なうリスクを減らせます。

ネット全盛の時代、コンテンツモデレーションは、ブランドイメージの維持に欠かせないものといえるのです。

3.コンテンツモデレーションの課題2つ

コンテンツモデレーション（投稿監視）のメリットについては、ご理解いただけたのではないでしょうか。一方、デメリットはあるのでしょうか。

結論からいえば、実施によるデメリットはありません。

しかし、コンテンツモデレーションという取り組みそのものが、発展段階のものなので「課題」はあります。大きく分けると2つあります。

一つずつ、みていきましょう。

3-1.問題のない情報もはじかれる場合がある

一つ目のデメリットが「問題のない情報もはじかれる場合がある」という点です。

FacebookやTwitterでは、過度にセクシャルな表現をする広告を禁止しています。

こうした規定があることで、女性の下着を扱うメーカーや女性のヘルスケアについて取り扱うベンチャー企業、セクシャルな単語がタイトルに用いられている本、無計画な妊娠に警鐘を鳴らす啓蒙運動などが、広告がブロックされたり削除されたりしています。

つまり、なんら問題はないはずのコンテンツであっても、コンテンツモデレーションの一環として、はねられてしまうことがあるのです。

コンテンツモデレーションは機械と人の目による監視によって効率化や検閲精度の向上が図られていますが、パーフェクトではないのが現状です。

3-2.基準・ルール作りがむずかしい

もう一つが、「コンテンツモデレーションの基準・ルール作りのむずかしさ」です。

コンテンツモデレーションの場合、「こういう場合はブロックして、こういう場合は許可をする」といった「ルール作り」や「線引き」がしにくいのです。

例えば、女性のヌードが描かれた「現代アート」がアップされた場合。「セクシャルなものだから非表示の対象にするべきだ」という考えがあるでしょう。

その一方で「これはあくまで“アート作品”だ。このアートの魅力を伝えたいという純粋な思いに基づいた発信だから、非表示にするべきではない」という考えも出てくるかもしれません。

こうした事例では、個別にマニュアルを用意する必要があります。

しかし、マニュアルを作ったところで、どこまでスムーズな投稿監視ができるのかは疑問です。

アメリカの代表的なSNS「MySpace」において、コンテンツモデレーションのルール作りとコンテンツモデレーターの育成に関わったロズ・ボーデン氏は、BBCへの取材に対して、このように語っています。

出典：BBC「An online decency moderator’s advice: Blur your eyes」

日本語訳すると、次のようになります。

セクシャルな投稿や残虐な投稿でも、その「表現方法」や「レベル」によって、コンテンツの取り扱い方が変わってくる。その線引きをどこに設けるのか悩ましいということです。

このように、コンテンツモデレーションにおいては、検閲におけるルール作りのむずかしさがつきまとうのです。

ここで、コンテンツモデレーションのメリット・課題をまとめます。

上記のメリット・課題を踏まえたうえで、導入を検討してみてはいかがでしょうか。

4.コンテンツモデレーション（投稿監視）サービスの活用事例4つ

コンテンツモデレーションの「定義・メリット・課題」については、ご理解いただけたのではないでしょうか。

その一方で「実際にどのようにコンテンツモデレーション（投稿監視）が行われているのかイメージが湧かない」という方も少なくないと思います。

そこで、コンテンツモデレーションの活用事例を4つご紹介します。

以上の事例から、コンテンツモデレーションサービスの導入に向いている企業の特徴をまとめてみましたのでご参考ください。

貴社が上記に当てはまる場合、コンテンツモデレーションサービスの導入を検討してみましょう。

5.コンテンツモデレーション（投稿監視）なら当社にお任せください

「高品質なコンテンツモデレーションサービスを導入したい」
「できれば『実績が豊富な事業者』がいい」

そのような要望がある方は、トランスコスモスにお任せください。

トランスコスモスでは、「コンテンツモデレーションサービス（投稿監視サービス）」を、コンテンツモデレーションの黎明期にあたる「2007年」から提供しています。

監視対象のサービスは以下の4つです。

とりわけ、「BPO事業」などで確立したマネジメント手法（教育研修・品質管理・プロセスの標準化）を導入しているため、業界トップクラスの高品質を実現しています。

お客様からは「安心して任せられる」「炎上リスクが大幅に減らせた」などの嬉しい声を多数いただいております。そんな私たちが「選ばれている理由」は、大きく分けて3つあります。

・独自「運用サイクル」で審査品質を担保
・コンテンツモデレーターの「教育」に注力
・徹底した「メンタルヘルスケア」

一つずつ、解説します。

5-1.独自「運用サイクル」で審査品質を担保

トランスコスモスは「コンテンツモデレーション＝審査品質が何よりも重要」だと考えており、安定した「審査品質」を維持するための「運用サイクル」を独自に構築しています。

この運用サイクルにより、審査の「漏れ・抜け・判断ミス」が起こるリスクを限りなくゼロに近づけています。

運用サイクルは、以下の通りです。

上記の通り、2名体制で審査を行いつつ、品質保証担当者による二重、三重のチェックも行う。

加えて、品質向上のために「審査ポリシー」を定期的に刷新していく。

これが、トランスコスモスのコンテンツモデレーションの基本になっています。

5-2.コンテンツモデレーターの「教育」に注力

審査品質を維持・向上させるために「コンテンツモデレーターの教育」にも注力しています。

具体的には、以下の4つに取り組んでいます。

以上の通り、経験の浅いコンテンツモデレーターのスキル向上を図る取り組みを複数組み合わせることで、サービス品質のボトムアップを実現しています。

5-3.徹底した「メンタルヘルスケア」

3つ目が「メンタルヘルスケア」です。

ネットメディアの世界には、コンテンツモデレーターの精神を傷つける「過激なコンテンツ」が少なくありません。具体的には、過度にセクシャルなもの、テロや暴力などに絡むものなどです。

こうしたコンテンツを審査しているなかで、精神的に不安定になってしまうことも少なくありません。

そのため、提携するカウンセラーによる「個別面談」を定期的に実施する体制を整えています。

コンテンツモデレーターが、日頃の悩みを相談できるだけでなく、カウンセラーの「気づき」をまとめたレポートを提出していただくことで、メンタルヘルス関連の「潜在リスク」を早期に発見できるようにしています。

以上3点が、トランスコスモスのコンテンツモデレーションサービスが選ばれている理由です。

「炎上リスクを確実に減らしたい」「サポート体制の手厚さを重視する」という方は、お気軽にお問い合わせください。

まとめ 

いかがでしたか。
「コンテンツモデレーションとは何か」について、理解が深まったのではないでしょうか。

ここで、本記事のまとめを入れます。

・コンテンツモデレーションの定義
コンテンツモデレーションとは、不特定多数のユーザーによって投稿されたインターネット上のコンテンツ（書き込み・画像・動画）を監視する「モニタリング業務（＝投稿監視）」のこと。

チェック対象のコンテンツが、SNSやWebサイトを閲覧するユーザーにとって「不快」な内容になりうる場合、コンテンツを「削除」したり、投稿したユーザーを「アクセス禁止」したりする。

そうした処置によって、SNSやWebサイトを「健全・良好」な状態に保つのが、「コンテンツモデレーション（投稿監視）」の役割である。

• コンテンツモデレーション（投稿監視）サービスの種類

・コンテンツモデレーション（投稿監視）サービスの選定ポイント3つ

①投稿監視を実施する範囲
②監視の頻度
③サポートの手厚さ

• コンテンツモデレーションのメリット・注意点

・コンテンツモデレーション（投稿監視）サービスの活用事例4つ

本記事が、コンテンツモデレーション（投稿監視）について知りたい方のお力になれましたら幸いです。