その投稿、ちょっと「matte」。炎上のリスクヘッジで健全なオンラインコミュニティを
2022年04月07日 11:01 Techable
商品についてユーザー同士が語り合う掲示板や、オリジナルキャンペーン、商品担当者へのインタビューなどの情報発信によって集客や顧客ロイヤリティの向上が期待できる一方、誹謗中傷をはじめとした炎上リスクを考え、二の足を踏んでいる企業もいるようです。
そのようななか、アディッシュ株式会社は、投稿内容再考の機会を促すアラート機能を装備したAI検知サービス「matte（マッテ）」を提供することで、オンラインコミュニティの健全化に寄与しています。
ユーザーが起こしたトラブルに対する運営者の責任や、健全なコミュニティを作るヒントについて、同社代表の江戸浩樹氏に取材しました。
ネット上の誹謗中傷をめぐる社会の変化——まず、御社の事業内容についてお聞かせください。
江戸：アディッシュ株式会社は、スタートアップの成長支援、およびスタートアップが生み出したサービスやテクノロジーによって新たに発生する課題を、カスタマーサクセスという視点に立ちながら解決する事業を展開しています。
サービスのひとつとして提供しているのが、インターネット上に投稿されるさまざまなコンテンツの監視サービスやリスク対策サービスです。誹謗中傷などのトラブルや、炎上による企業価値低下を防ぐことを目指しています。
——近年のインターネット上のトラブルについて、何か傾向は見られますか？
江戸：プラットフォーム事業者の責任が、以前よりも強く問われるようになってきていると感じます。海外の方がその傾向が強いかもしれません。最近も「テロ行為を助長する発言には厳しい対応をとるべき」といった意見を多く目にすると思います。
プラットフォーム事業者やプロバイダに投稿削除などの適切な対応を促したり、保有する発信者情報の開示を被害者が請求できる権利を規定したりするなどの取り組みが、国によって徐々に進んでいる状況です。
たとえば、2020年8月に総務省は、プラットフォームサービスに関する研究会において、「インターネット上の誹謗中傷への対応の在り方に関する緊急提言」を発表しました。
提言では、「誹謗中傷への対応の必要性と表現の自由への萎縮効果のバランスを考慮した対応を実施するための方策として、コンテンツの削除等だけでなく、ユーザの選択に応じた形でのAIによる表示順位・頻度抑制等のコンテンツモデレーションや、規約やポリシーに基づくサービス設計技術（アーキテクチャ）の工夫による何らかの仕組みについて、事業者の創意工夫により、導入を検討することが期待される」としています。
表現の自由など、考えなければいけない課題はありますが、今後もプラットフォーム事業者の社会的責任はより強く問われていくと考えています。同時に、そのプラットフォームを利用してコミュニティを運営する企業の責任についても見直されていくでしょう。
—— もしトラブルが起こってしまった場合どのように対応すればよいのでしょうか。
江戸：トラブル解決プロセスに従って対応したり、専門家に相談したりするなど、とにかく火消しをするしかありません。
事後対応以外に何かできることはないだろうか、そもそもトラブル自体を未然に防ぐことはできないだろうかと考え、「matte」を開発しました。
AIが炎上リスクを分析！投稿前に再考を促す「matte」——「matte」とは、どのようなサービスなのでしょうか。
江戸：matteは、コミュニティサイトにユーザーが誹謗中傷などの不適切な投稿をしようとした際に、AIシステムがブロック・再考を促すアラートを発するサービスです。オンラインコミュニティを運営している企業のプラットフォームに導入していただいています。
ポップアップで見直しを促すことで、ユーザーに不適切な投稿を思いとどまって再考してもらうことを目指しています。
—— 投稿の「制限」をするのではなく、「再考」を促すのはどうしてですか。
江戸：ユーザーの表現の自由を尊重したいという思いがあるからです。しかし、対策を何も講じないとトラブルが起こってしまう可能性があります。私たちなりに考えた結果、再考を促すという方法をとることにしました。
—— 少し意地悪な質問になってしまいますが、再考を促されたからといって、人は投稿することを思いとどまるものでしょうか。
江戸：誰かを攻撃しようという悪意がなくても、感情的になって「つい」投稿してしまう人は少なくないものです。そのような人の多くは、数秒経てば感情の昂りが落ち着き、冷静な判断ができるようになるといわれています。
一般社団法人 日本アンガーマネジメント協会の発表によると、「怒りのピークは6秒」と言われているそうです。
また、アラートを見ることで、相手のことを思う正義感から出た発言が、相手の受け取り方次第では、攻撃と捉えられることもあると気づくこともできます。
—— matteを導入したことでどのような成果が出ているか、教えてください。
江戸：実際にmatteを導入したオンラインコミュニティのデータを見ると、全体における不適切投稿数の割合が導入前と比べて半減したという結果が出ています。
今後は、ユーザーが不適切な投稿をキャンセルする確率をより高くできるよう、アップデートを進める予定です。
加えて、「数年前には問題が起こらなかったけれど、最近同じ内容の投稿をしたら炎上した」などの炎上の傾向の変化にも、柔軟に対応できるようにしたいと考えています。
matteは、最新データをもとにAIが投稿を分析するので、その時々の炎上傾向に対応することが可能ですが、そのカバー率をもっと上げていきたいです。
—— 炎上しやすい内容は、時代によって変化するということですか。
江戸：炎上にもトレンドがあります。
弊社は、炎上事例を継続して蓄積している「炎上DB」というものを自社で持っています。その傾向をみていくと、以前はバイトテロなどの「行為そのものがよく炎上していましたが、コロナ禍になってからは、「休業するか、しないか」「リモートワークを実施するか、しないか」など、企業姿勢に対する反応が多くなったと感じています。
消費者の声が企業に届きやすくなった結果とも言えるでしょう。
健全なオンラインコミュニティを作るために——健全なオンラインコミュニティとは、どのようなコミュニティだと考えますか。
江戸：ユーザーと運営者の双方が安心・安全を感じられ、つながっていることのメリットを享受し、高め合っていけるようなコミュニティだと思います。
そのようなコミュニティを作るヒントを、米国の法学者であるローレンス・レッシグ氏の言葉を借りて説明しましょう。
レッシグ氏によると、コミュニティをコントロールする手段としては、「法律」「市場」「規範」そして「アーキテクチャ」の4つがあります。
「法律」は公権力が定めたルール、「市場」は市場原理や競争、「規範」は一般常識や道徳などを、そして「アーキテクチャ」は、仕組みやシステムのことを指します。
本来なら、これら4つの力がなくても問題が起こらないコミュニティが理想なのですが、現実はそううまくいきません。健全なコミュニティとは、これら4つのバランスが取れている状態です。
——バランスが取れている状態とは、どのような状態のことか教えてください。
江戸：一番大切な力である「規範」を守るために、ほかの3つの力が存在している状態です。なぜ規範に重きを置くかというと、ユーザーの言動や行動を強く制限するのではなく、自主性を尊重しているからです。
——オンラインコミュニティ運営者は、具体的に何をしたらよいのでしょうか。
江戸：オンラインコミュニティを発足したら、最初にコミュニティの規範、つまりガイドラインや利用規約を作成します。「他のユーザーに危害を与えてはいけない」「コミュニティ内の情報を外部に漏らしてはいけない」などですね。
規範を定めても、それだけでうまくいくわけではないので、次に「アーキテクチャ」の導入を検討します。たとえば通報やモニタリングの仕組みを入れたり、matteなどのシステムを導入したりして、コミュニティの仕組みを整えることが当てはまります。
また、コミュニティを活性化させるためには、「市場」の力も必要です。これらの方法でもうまくいかない場合、最終的には厳罰化をもってコントロールする「法律」の制定も必要になるでしょう。
このように、あくまでも大切なのは規範であり、その規範を守るために、アーキテクチャや市場、法律が働きかけている状態が、健全で理想的なオンラインコミュニティだと考えます。
テクノロジーの発展でトラブルの複雑化・多様化が進む——今後、インターネット上のトラブルは、変化していくと考えますか。
江戸：これからもっと複雑化・多様化が進んでいくと思います。
デバイスが進化し、より使いやすくなっているほか、動画やVR、メタバースをはじめとしたリッチで魅力的なサービスが続々と生まれています。それに伴い、オンラインコミュニティに参加する人も増加していくはずです。
年代もバックグラウンドも異なる不特定多数の人がつながり、自由に発言するのですから、トラブルが起こる可能性も高くなるでしょう。
同時に、つながりがあるからこそ、得られる体験というものもあります。その可能性は今後もっと広がっていくはずです。
ユーザーと企業がお互いに安心してつながり、発言できるよう、オンラインコミュニティを運営する企業は、トラブルを未然に防ぐための対応に力を入れて取り組む必要があると考えます。
（文・和泉ゆかり）
