モデレーションを自動化する前に、ルールの意味をそろえよう

2026年10月23日、MetaはFacebookグループ向けアプリ「Forum」の更新内容を発表した。発表の同じ節に、Admin AIとAdmin Assistが並んでいる。名前は似ていても、役割には大きな違いがある。一方は承認待ちの投稿を評価する手助けをし、もう一方は管理者がモデレーションの自動処理を設定できるようにする。この記事は10月の発表を読み解くもので、今日、新機能が公開されたというニュースではない。^[1]

Metaによると、Admin AIは投稿に目印を付け、グループのルールを守っていそうか、違反している可能性があるかを示す。Admin Assistは管理者が決めた条件に従ってモデレーションを自動で行う。その条件を、今回から組み合わせられるようになった。会社が挙げる例は、投稿の長さ、リンクの有無、過去のモデレーションで取られた措置などだ。発表では、Forumは米国のiOSとAndroidで利用できるとされている。^[1]

目印が付いても、判断はまだ残る

ClearRulesが今回の更新で最も役に立つと考えるのは、この役割の違いだ。投稿を確認すべき理由を示すことと、その投稿をどう扱うかあらかじめ決めることは、別の仕事である。目印があれば、人が承認待ちの投稿を確認しやすくなるかもしれない。自動で処理するなら、条件そのものにも確信が要る。その条件は、グループのルールを十分に正確に表しているだろうか。

広告を禁止している地域のグループを想像してみよう。ある人は自分が売る有料講座へのリンクを投稿し、別の人は市が出した通行止めのお知らせへのリンクを投稿する。どちらにもリンクがある。管理チームがリンクの存在だけを広告の証拠とするなら、AIが関わる前から間違いは始まっている。管理者自身が、区別したい二つのケースを区別できない条件を選んでしまったのだ。

だからこそ、条件を組み合わせられることには意味がある。一つの大ざっぱなフィルターだけに頼るより、できることは増える。ただし、条件を足す目的は、認める投稿と認めない投稿の違いを明確にすることだ。設定を複雑に見せることではない。モデレーターの誰も新しいメンバーに説明できないルールを、自動で適用する準備ができたとは言いにくい。

過去の判断も確かめたい

Metaが挙げた過去のモデレーションの措置には、特に目を向けたい。履歴は、繰り返される問題を見つける手掛かりになる。だが、以前の判断が間違っていたなら、その判断があったという事実を次の投稿に不利な材料として使うのは危うい。これは設定時に起こり得る間違いであり、私たちがForumで発見した不具合ではない。発表には、過去の措置を具体的にどう考慮するかまでは書かれていない。^[1]

すべてを人の手で確認するか、自動処理を無条件に信じるか。その二択にする必要はない。判断が明確で、何度も現れるケースには、自動化する十分な理由がある。人が同じ問題を毎回解き直さずに済むからだ。意見が分かれるケースでは、別の作業が必要になる。確認の過程で、二人の管理者が「広告禁止」を違う意味で受け取っていたと分かることもある。それも有益な成果だ。その場合、ルールの適用を速める前に、意味をはっきりさせなければならない。

よい設定をどう見分けるか

承認待ちの投稿がゼロになっただけでは、モデレーションの質はほとんど分からない。地域のグループなら、自動で処理した投稿の一部を抽出し、本来認められる投稿が何件却下されたかを確かめる方が役立つ。スパムと一緒に通行止めのお知らせまで消えたなら、処理の速さと引き換えに、メンバーが必要とする情報を失っている。これはClearRulesが提案する評価方法で、Forumに備わったレポート機能ではない。

よい設定は、何を認めたいのかをチームで決めるところから始まる。AIの提案は確認を楽にし、自動で適用するルールは繰り返しの作業を減らせる。それでも、何を広告と呼ぶかは人が決着をつけなければならない。意見の食い違いまで自動で適用される前に、済ませておく方がいい。