はてブが導入した「建設的コメント順位付けモデルのAPI」とは

今回、はてなブックマークが導入したのは、Yahoo!ニュース コメント(ヤフコメ)に導入されている「建設的コメント順位付けモデル」です。

「建設的コメント順位付けモデル」開発の背景

Yahoo!ニュースでは、2007年からYahoo!ニュースに付随する機能「Yahoo!ニュース コメント(通称・ヤフコメ)」を提供しており、ニュースごとにユーザーがコメントを投稿したり、別のユーザーのコメントに返信したりできるようになっています。

引用：https://news.yahoo.co.jp/articles/578081ed7cea2a22de5bed5738c60a05ec46d995/comments

もともとユーザーが投稿されたコメントを通じて色々な視点を得られることを目的に作られた機能でしたが、運営側が投稿されたコメントのチェックをおこなっていなかったため、実際は無法状態となっていました。

誹謗中傷や差別的な発言があったりユーザー同士が喧嘩や言い争いが頻発していたりするだけでなく、Yahoo!ニュース コメントのやりとりが原因で刑事事件が起こったこともあり、無法地帯化はとても問題視されていました。

「建設的コメント順位付けモデル」とは

無法地帯となっているYahoo!ニュース コメントの健全化を図るため、導入されたのがディープラーニングを用いた自然言語処理モデル(AI)です。

Yahoo!は自然言語処理モデル(AI)を用いて投稿されたコメントを評価し、不適切な投稿(誹謗中傷や差別的な発言など)を削除しました。

また、不適切な投稿を削除するだけでなく、根拠を提示した客観的なコメントや新しい考え方・解決策・見識を提供するようなコメントなどをユーザーが優先して閲覧できるよう、コメントをスコアリングし、建設的なコメントを上位に表示させることも2018年よりおこなっています。

「建設的なコメントのスコアリング」は、Yahoo!で導入されているだけでなく、APIとして企業向けに無償で提供されており、今回はてなブックマークは無償提供されていたAPIを活用しています。

はてなブックマークの課題

気になる記事や投稿をブックマークしておけるブックマークサービス「はてなブックマーク」でも、Yahoo!ニュースと同じようにブックマークした記事ごとにコメントが残せるようになっています。

はてなブックマークでは、ヘイトスピーチになる表現や繰り返される過度な攻撃表現については一定の基準を設けて表示させないようにしていますが、極端な意見や不謹慎な表現、煽るような表現については個人の価値観にも影響するため、必ずしも全てを規制していませんでした。

しかし、不穏な表現は健全なコメントに比べ、ユーザーの注目を集めてしまいやすく、その結果規制をくぐり抜けた投稿が人気コメントとして表示されることが課題となっていました。

この課題を解決するために、はてなは建設的コメント順位付けモデルのAPIを導入し、より健全で建設的なコメントが上位に表示されるよう対策をおこないました。

ユーザー離れを防ぐために欠かせない

Yahoo!ニュースやはてなブックマークは、いずれも多くのユーザーに利用されており、ログインさえすれば簡単にコメントを投稿できます。

多くの人が利用するということはそれだけ色々なコメントが投稿されることでもあり、母体数が多くなれば悪質なコメントや望ましくない投稿も多くなります。

はてなブックマークの事例からも分かるように、良くないコメントや投稿は、建設的なものよりも目立ってしまいやすく、不快に思うユーザーも多くなるので、ユーザー離れを促してしまうことにもつながります。

ユーザーコミュニティを運営しているのであれば、建設的コメント順位付けモデルのAPIのようなコメントを規制できるサービスは欠かせません。

悪質な表現がある投稿・コメントの規制は、Yahoo!ニュースやはてなブックマークのようなユーザーが気軽に投稿できるSNSだけでなく、企業が運営しているSNSアカウントや口コミサイトでも今や必須と言えます。

特に、サイト内で企業とユーザー、ユーザーとユーザーが交流できるようなサービスをWebサイト内で提供している場合、企業の印象にも影響するのでコミュニティの運営には注意を払うべきです。