SNSやコミュニティサイトでのトラブルが多発している

SNSやネット上のコミュニティなどが登場したことによって、気軽に色々な人とコミュニケーションが取れるようになりました。
しかしその反面、誹謗中傷やネット上のいじめが問題になることも多く、企業が運営しているSNSを発端に、ユーザー間のトラブルに発展することも少なくありません。

トラブルの元となるNG投稿を抑制する「matte」とは？

出典：adishのAI再考アラート【matte】

「matte」はAIを活用した検知サービスです。
利用者が、企業が運営しているコミュニティサイトに投稿をすると、その内容をAIが読み取り、誹謗中傷や荒らし投稿ではないかを判断しています。

投稿された内容が荒らし投稿や誹謗中傷になり得る場合は、「再考アラート」を発動し、投稿を思いとどまらせて、トラブルを未然に防ぐことを目指しています。

出典：PR TIMES

「matte」の魅力

投稿内容をAIで検知しているので、自動で荒らし投稿や誹謗中傷になり得る「NG投稿」を見つけられます。
また、どんな投稿がNG投稿になるのかどんどん学習していくので、より最適な形でNG投稿を減らすことができようになるでしょう。

「matte」を導入することで、運営者側で荒らし投稿や誹謗中傷になり得る投稿を思いとどまらせられるため、結果的にトラブルを減らすだけでなく、ユーザーを守ることにもつながります。

企業が運営するものには炎上・トラブル防止策が不可欠

企業がコミュニティやSNSを運営する際には、投稿者自身の意識に委ねるだけでなく、運営側でも誹謗中傷やトラブルの元となる投稿を抑制できるようにすることが不可欠となるでしょう。

例えば、Twitterでは指定した人しかリプライをできなくする機能を搭載して、悪意のあるリプライや誹謗中傷に触れないようにしています。
また、誹謗中傷のトラブルがあった際に、請求があれば情報を開示することも行なっており、実際に誹謗中傷で情報開示を請求を行った人もいます。
このように、今後は企業側・運営側での施策が欠かせないものとなるでしょう。