CLEARRULES · OPINIÓN
Un deepfake puede hacer daño sin cambiarte la cara
Un deepfake puede conservar la apariencia de alguien e inventar todo lo demás. El caso de un vídeo falso sobre una voluntaria de una campaña muestra por qué las normas deben contemplar no solo las imágenes alteradas, sino también las conductas que se atribuyen falsamente a una persona.
El 17 de septiembre de 2026, el Consejo asesor de contenido (Oversight Board) exigió que se retirara de Facebook un vídeo generado por IA contra una voluntaria que participaba en una campaña de educación sobre la salud de las mujeres. La mayoría del Consejo consideró que el montaje formaba parte de una campaña de acoso. El caso muestra un problema que va más allá del realismo de los vídeos generados por IA. Su credibilidad formaba parte del ataque: a una persona reconocible le habían atribuido palabras y actos que no eran suyos.[2]
El vídeo presentaba falsamente a la mujer como embajadora de salud de su país y la mostraba dando supuestos consejos sobre alimentación y ejercicio. En la entrevista real había hablado de salud menstrual, no de dietas ni de entrenamiento.[1]
Un montaje no tiene por qué cambiar la cara, los rasgos o el cuerpo de alguien. Puede mantener intacta su apariencia y sustituir por completo lo que supuestamente hace. El parecido no atenúa el ataque: ayuda a vincular una conducta inventada con la persona que el espectador reconoce.
Conservaron la apariencia. Inventaron la conducta.
La decisión completa describe dos obstáculos para aplicar la norma sobre imágenes manipuladas no deseadas. Meta consideraba que la mujer era una persona privada con derecho a esa protección, pero exigía que denunciara ella misma el contenido; no había denunciado esta publicación. Además, la interpretación interna de la norma abarcaba los cambios de apariencia, no las palabras y los actos inventados. Según la explicación de Meta, ni siquiera una denuncia de la propia afectada habría bastado.[1]
Ese enfoque no plantea del todo la pregunta adecuada. El daño puede venir no de unos rasgos alterados, sino de una escena inventada para la persona atacada. La pregunta «¿qué se ha cambiado en la imagen?» deja entonces paso a otra más importante: «¿qué han hecho decir o hacer a esta persona, y cómo lo están usando en su contra?». Lo que importa es el contenido del ataque, no la calidad de sus gráficos.
Exigir una denuncia personal añade otra dificultad. Para que la protección funcione, la persona acosada tiene que encontrar primero la publicación y enfrentarse de nuevo a ella. La mayoría del Consejo criticó esa carga. La ausencia de una denuncia así no dice nada, por sí sola, sobre si alguien ha consentido participar en el montaje de otra persona.[1]
La crítica no tiene por qué ser amable. Pero necesita algo que criticar.
La decisión no fue unánime. Una minoría del Consejo cuestionó que el vídeo infringiera las normas, consideró a la mujer una figura pública dentro de un ámbito limitado y advirtió de que unas reglas demasiado amplias podían silenciar críticas legítimas. Incluso si se acreditara una infracción, propuso estudiar medidas menos restrictivas que la retirada.[1]
Es una objeción de peso. Hablar en público no da derecho a recibir únicamente respuestas corteses. Una caricatura puede resultar desagradable y una burla ser mordaz; eso, por sí solo, no explica por qué habría que retirar una publicación. Una norma que dependiera únicamente de que alguien se sintiera ofendido sería una forma demasiado cómoda de deshacerse de las voces discrepantes.
Pero criticar lo que alguien ha dicho no es lo mismo que inventarle una conducta para después humillarlo por ella. En el segundo caso, el autor no rebate una postura ajena: construye un blanco a su medida con la cara de otra persona. Un análisis convincente de una publicación así debe explicar esa sustitución y el daño que causa, no limitarse a detectar el uso de IA.
Una etiqueta de IA no resuelve la cuestión del acoso
En la explicación de su enfoque sobre el contenido de IA, publicada el 5 de abril de 2024, Meta mantuvo expresamente la retirada de contenidos que infringieran las normas, incluido el acoso, con independencia de cómo se hubieran creado. Sería incorrecto, por tanto, presentar su postura como un permiso para cualquier ataque con tal de que lleve una etiqueta. En este caso, la disputa giraba en torno a qué constituía una infracción.[3]
El Consejo recomendó incluir expresamente las palabras y los actos inventados en la definición de imágenes manipuladas no deseadas. Una recomendación no demuestra que la norma haya cambiado. Pero la modificación merece apoyo: la protección frente al acoso no debe desaparecer cuando un montaje ha conservado cuidadosamente la apariencia de alguien. Hay que examinar qué palabras y actos se le han atribuido y cómo se utilizan para atacarla.[2]