顔を変えなくても、ディープフェイクは人を傷つける

2026年9月17日、監督委員会（Oversight Board）は、女性の健康に関する啓発活動にボランティアとして参加する女性を狙ったAI生成動画を、Facebookから削除するよう求めた。委員会の多数意見は、この捏造を一連の嫌がらせの一部と判断した。この決定を振り返る価値は、AI動画がどれほど本物らしく見えるかという議論を繰り返すことにはない。この件では、その本物らしさ自体が問題の一部だった。本人だと分かる姿のまま、実際にはしていない発言や行動をしたように見せていたのだ。^[2]

動画は、この女性が自国の健康大使であるかのように偽り、食事や運動について助言しているように見せていた。実際のインタビューで彼女が話していたのは月経に関わる健康についてであり、食事療法やトレーニングについてではなかった。^[1]

捏造するために、顔立ちや体形を変える必要はない。外見は本人のまま、その人がしているように見えることだけを、そっくり入れ替えられる。似ているからといって、攻撃が弱まるわけではない。むしろ本物に似ているからこそ、見る人は、作り上げられた行為を本人がしたと思いやすくなる。

外見はそのまま。言動は作り話。

決定の全文には、本人が望まない加工画像に関するルールを適用するうえで、二つの障害があったと記されている。Metaは、この女性を保護対象となる私人と扱いながら、本人からの通報を条件としていた。しかし、彼女は当該の投稿を通報していなかった。さらに、社内の解釈では、ルールの対象は外見の改変であり、発言や行動の捏造は含まれなかった。そのためMetaの説明によれば、仮に本人が通報していても、それだけでは適用できなかったことになる。^[1]

この考え方は、問うべきことを十分に捉えていない。人を傷つけるのは、変えられた顔立ちではなく、本人に代わって誰かが作り上げた場面かもしれない。そうであれば、「画像のどこを変えたのか」よりも、「この人に何を言わせ、何をさせたことにし、それをどう攻撃に使っているのか」が重要になる。問われるのは攻撃の中身であって、映像の出来ではない。

本人による通報という条件は、別の難しさも生む。保護を受けるには、標的になった人がまず投稿を見つけ、もう一度それに向き合わなければならない。委員会の多数意見は、この負担を批判した。本人からの通報がないというだけでは、他人が作った偽の場面に自分が登場することに同意していたかどうかは分からない。^[1]

批判は優しくなくてもいい。だが、批判する対象は必要だ。

決定は全会一致ではなかった。委員会の少数意見は、動画をルール違反とする判断に異議を唱え、女性をその活動の範囲では公人に当たると捉えたうえで、広すぎるルールは正当な批判を抑え込むおそれがあると警告した。違反が認められるとしても、削除より制限の弱い措置を検討すべきだとした。^[1]

これは重く受け止めるべき反論だ。公の場で発言したからといって、丁寧な反応だけを求める権利が生まれるわけではない。風刺画は不快なこともあり、からかいは辛辣なこともある。それだけでは、投稿を削除すべき理由にはならない。誰かが気を悪くしたかどうかだけで決まるルールは、異論を排除するにはあまりにも都合がいい。

しかし、誰かが言ったことを批判するのと、その人の言動をでっち上げ、それを理由に辱めるのとでは話が違う。後者の作者は、相手の立場に反論しているのではない。相手の顔を使って、自分に都合のいい標的を作っている。こうした投稿を説得力のある形で評価するには、AIの使用を見つけるだけでなく、このすり替えと、それがもたらす害を説明しなければならない。

AIラベルだけでは、嫌がらせかどうかは決まらない

Metaは2024年4月5日に公表したAIコンテンツへの対応方針で、嫌がらせを含むルール違反については、素材がどう作られたかにかかわらず削除の対象とすることを明記していた。したがって、ラベルさえ付ければどんな攻撃も許す方針だと説明するのは誤りだ。この件で争点になったのは、何を違反とみなすかだった。^[3]

委員会は、本人が望まない加工画像の定義に、発言や行動の捏造を明示的に含めるよう勧告した。勧告が出たことは、ルールがすでに変わった証拠ではない。それでも、この改定案そのものは支持に値する。外見を忠実に残した捏造だからといって、嫌がらせからの保護が失われてよいはずはない。見るべきなのは、その人について語られた物語の中で、本人がどのように扱われたかである。^[2]