岩佐さん（以下岩佐）：

よろしくお願いします。
matteとは、コミュニティサービスのユーザーが不適切な投稿をした際に、再考を促すサービスです。
弊社が長年積み重ね、蓄えてきたデータとノウハウをAIモデルを用いて開発しました。

岩佐：

例えばECサイトやレビューサイト、SNSやゲームサービスなど、「コミュニティ機能を含むサービス」を提供している企業がターゲットとなります。

岩佐：

そうですね。
特に今年はインターネット上における誹謗中傷が話題になったと思いますが、そういったサービスを運営している企業をターゲットに開発しました。

岩佐：

弊社は長年有人モニタリングとシステムを融合させたサービスを提供していて、そのAI化に取り組んでいました。
matteのサービス方針に行き着いたのは今年（2020年）の春頃でした。

弊社のビジョンは「情報社会をあなたの居場所に」とミッションである「つながりを常によろこびに」ですが、原点に戻ってこのビジョンとミッションをAIに落とし込んだ結果、matteというサービスの方針が定まったというのが背景です。

岩佐：

先ほどからAIと申し上げておりますが、AI化を行なうことが大変でした。
弊社は、最終的には有人が判断するサービスを提供することが多く、これはワードではなく文脈によってNGを出すのは人だからこそできることとして捉えているからです。

この（文脈を把握する）判別の精度をあげることが非常に課題としてありました。

例えば、ワード上ではNGワードが含まれる投稿だったとしても、文章として捉えればOKだったりすることもあるんですね。
その精度を高めるために、弊社の機械学習エンジニアが情報・データを学ばせて精度が高いものを提供できるようになりました。

岩佐：

matteはAPIで連携するモデルとなっているため、クライアント様にAPIを組込む作業をしていただく必要があります。

matteは、投稿内容の再考を促すポップアップが出るサービスなため、クライアント様の提供するサービスに合うようなデザインや文章にする必要があります。
やはり、サービスに合わせてカスタマイズできる仕様にしないとユーザーに違和感を与えてしまうため、このようなシステムになっています。

岩佐：

クライアント様にもよりますが、基本的には1ヶ月をベースでお話しさせていただいております。
ただし、クライアント様が希望する内容によって工数は前後するため、一概には言えません。

岩佐：

そうですね。
ありがたいことに、大企業からスタートアップ企業までの幅広い企業様からお問い合わせをいただいておりまして、その中には実際にサービスをスタートさせる企業様もいらっしゃいます。

岩佐：

そうですね、引っかからないようにしていただけたら（笑）

岩佐：

今年は誹謗中傷の問題が国内外で話題になりました。
この誹謗中傷問題の解決のためにどのようなアプローチがあるのかと探している企業様が多いです。

ユーザーの投稿を規制してしまうと、ユーザーの離脱に繋がってしまうので、そこまで厳しくはしたくないという企業様が多いです。

matteのアプローチは投稿を禁止するわけではなく、不適切な投稿に対して投稿前に投稿の修正を促すサービスなので、非常に興味を持ってくださる企業様が多いです。

岩佐：

仰る通り、怒りのピークって6秒と言われていているんです。

岩佐：

怒りのまま投稿してしまうことが誰しもあると思うんですよね。
時間が経って思い返すと「何故あんな投稿をしてしまったのか」と思ってしまったり。

岩佐：

そうですね。
ちょっと切り口を変えてみると、海外の選挙の話だとプラットフォームによって判断が別れるということが問題になっています。

matteはプラットフォームでジャッジするわけではなく、AIによって一度ジャッジすることができるので、最終的に投稿するのかを選ぶのはユーザーですので、プラットフォーム毎のコメントがどのようにして活発になっていくのかをユーザーのみなさんが考えられるような仕組みを提供できると考えています。

岩佐：

ユーザーテストで、ポップアップの内容を読まずに投稿してしまったという声やデザインがわかりにくいという声をいただきまして、導入するプラットフォームによってユーザーに印象を与える最善なデザインや文言を提供できるようにしていきたいと考えております。

岩佐：

今後出てくる新しい言葉、例えばスラングや略語であったり時代や流行によって出てくる言葉をどのように捉えていくのかが課題として出てくると思っています。

AIは過去のデータを取得していくので、時代によって意味合いや言葉が変わっていきます。
時代によって不適切な投稿が変わっていくので、その時の状況に対応できるフローができるのかということが大事だなと捉えています。

岩佐：

さらに今は、過去に投稿されていない投稿・ワードが検出できないかということも検証しています。

岩佐：

現在は取引をさせていただいている企業様に向けてアプローチをさせていただいていますが、matteの登場を機に新規の企業様にもアプローチができればいいなと考えています。

また、監視業務がない・やっていないコミュニティサービスもたくさん存在しているのでそこの向けたアプローチを行えればと思っています。

岩佐：

アディッシュ の「情報社会をあなたの居場所に」というビジョンの元matteのサービスを推し進めます。 ユーザーに気づきと機会を与えるアプローチで「居場所」を作っていくというところですが、まだその機能しか提供できていない状況です。

ユーザーにとっての居場所になる上では今のアプローチだけでは足りないと思っているので、模索をしながらさらなるアプローチを探していきたいと考えています。