Deepfake: ¿están los adolescentes a salvo?

Hace algunas semanas publiqué un vídeo sobre este tema en mi canal de Instagram. Desgraciadamente, todo saltó hace aproximadamente una semana cuando nuestra querida Dra. Miriam Al Adib, conocida ginecóloga y divulgadora en redes sociales, hizo un directo en en esta misma plataforma donde contaba que su hija (y otras niñas de Almendralejo, el municipio donde viven) había sido víctima de un deepfake de carácter pornográfico, que se había distribuido entre los adolescentes y había llegado a diferentes páginas web. Hasta una de las niñas sufrió chantaje.

En el vídeo, Miriam se dirigía, sucesivamente, a las madres de las otras adolescentes afectadas (para que se unieran en una denuncia colectiva), a las otras chicas cuyas fotos habían sido manipuladas (para darles seguridad, arroparlas y animarlas a contárselo a sus familias), y a los chicos que las habían hecho (para decirles que era un acto muy grave y que retiraran las fotografías de todos los canales).

A muchos padres y madres de adolescentes, como a la misma Miriam Al Adib, la palabra deepfake les pillaba por sorpresa: ¿qué son, desde cuándo existen, cómo se combaten? Y es que se conocían algunos casos (como un vídeo de Barak Obama de 2018), pero lo único que parecía estar en el debate público eran sus consecuencias en la política. 

Pero no. La inmensa mayoría de los deepfakes, estas fotografías o vídeos manipulados, son pornografía no consentida, es decir, fotografías o vídeos pornográficos en los que se toma la imagen fotográfica real de una persona y se le pone el cuerpo de otra. Una nueva forma de violencia sexual que, según parece, con los avances de la Inteligencia artificial ya está al alcance de los adolescentes.

¿Qué consecuencias tienen estos hechos para las víctimas? ¿Hasta qué punto son delictivos? ¿Cómo podemos frenar la difusión de las fotografías o vídeos una vez que comienzan a compartirse? ¿Cuáles son los derechos de nuestras adolescentes? Y, lo más importante, ¿cómo podemos protegerlas?

El deepfake es nuevo, pero la manipulación de imágenes no

Si tuviéramos que resumir mucho el contenido de este artículo, diríamos que manipular imágenes de mujeres para crear pornografía es algo muy antiguo. Y que hacerlo por ordenador es, al menos, tan viejo como Photoshop (hay sentencias de los años 90 por este hecho), aunque probablemente mucho más. La novedad, ahora, es que se pueden hacer vídeos cada vez más verosímiles y que las imágenes pueden generarse solamente con una aplicación (se sabe que los adolescentes de Almendralejo utilizaron una app con la que podían obtener 25 fotografías por 9 euros).

Deepfake es una palabra compuesta que viene de deep learning (‘aprendizaje profundo’, la tecnología por la que aprende la inteligencia artificial, y fake (‘falso’). El artículo más conocido sobre los deepfake, que fue publicado en 2019 por Deeptracelabs, anotaba que se utilizó por primera vez en 2017, momento en que se abre un foro de Reddit (u/deepfakes) dedicado a crear falsos vídeos pornográficos de mujeres famosas empleando fotografías de las mismas.

El foro en cuestión se borró, pero desde entonces la tecnología que permite el deepfake ha ido mejorando, y las herramientas, como comentábamos, se han hecho más accesibles.

No es cuestión de desacreditar el progreso técnico, pues el deepfake tiene aplicaciones positivas (en la publicidad, en el arte, en la personalización del aprendizaje…), pero lo cierto es que ya en el estudio citado de 2019 se decía que el 96% de los vídeos de deepfake que se encuentran en la web son pornografía no consentida.

Y lo que antes parecía limitado a unas pocas mujeres famosas, ahora se ha extendido a todas. Cualquier persona puede ser víctima de un deepfake. Incluidas nuestras hijas adolescentes.

Consecuencias del deepfake sobre las víctimas

En estos días de revuelo mediático sobre Almendralejo, entre muchísimas muestras de simpatía y apoyo a las adolescentes, también se han oído y se han visto algunos comentarios que quitaban hierro al asunto, que es gravísimo.

El más aireado, que ha salido en la prensa, el de uno de los chicos que difundieron las fotografías: “¿de qué os quejáis, si luego vais casi sin ropa por la calle?”. Otro, más visto en comentarios de redes sociales, el de quienes afirmaban que el hecho “no debería afectar a las chicas” porque las fotografías no eran reales. Es decir, que se establecía una diferencia entre difundir fotos verdaderas y falsas.

Sin embargo, sabemos que el efecto psicológico sobre las víctimas de deepfake es el mismo que si se hubieran difundido fotografías o vídeos reales de ellas. 

Y es que la asociación de la propia cara con una imagen o un vídeo pornográfico, aunque sea falso, afecta a la víctima de muy diferentes maneras. En primer lugar, atenta contra su imagen social. Pero además causa un daño profundo, similar al que se daría con la difusión no consentida de vídeos o fotografías sexuales explícitas.

Estas consecuencias son fundamentalmente de carácter psicológico, y similares a las del estrés postraumático. Entre ellas podríamos citar:

• Angustia
• Ansiedad
• Amnesia temporal
• Síntomas fisiológicos, como palpitaciones y ataques de pánico
• Depresión

El hacer desaparecer las fotos de los foros o páginas web donde se hubieran subido no es suficiente, pues el daño no es reparable. Muchas personas ya han visto ese material en el que aparecían sus caras.

La razón por la que los adolescentes hacen deepfake

Empezaremos diciendo que el deepfake, como tal, no está penalizado legalmente.

Pero falsificar y difundir material pornográfico puede ser constitutivo de diferentes delitos:

• Tenencia y difusión de pornografía infantil (pues en este caso las víctimas son menores).
• Un delito contra la intimidad, pues se vulnera el derecho a la privacidad de las víctimas.
• Delito de injuria, pues se está difundiendo material falso haciéndolo pasar por verdadero, lo que equivale a mentir sobre una persona, dañando su reputación.

¿Cometieron los chicos un delito siendo conscientes de ello?

La respuesta es que, probablemente, no.

Y es que el empleo mayoritario del deepfake, hoy, es predominantemente machista: los hombres, vestidos, son actores, impulsores de acción, y las mujeres, desnudas, objetos para satisfacer los deseos de otros.

Se combina, por tanto, la excesiva dependencia del grupo con el machismo estructural, influidos ambos por la cultura del porno. Por eso insistimos en que lo más probable (aunque no es excusa) es que la mayoría de los chicos no fueran conscientes del delito.

Y esa es la razón por la que algunos adolescentes hacen deepfakes: porque, lo queramos o no, les parece que tienen derecho a desnudar, aunque sea virtualmente, a las chicas que deseen. No se les pasa por la cabeza que sea amoral. Ni el daño que hacen a las víctimas, y mucho menos que puedan estar cometiendo un delito.

¿Cómo protejo a mi adolescente del deepfake?

Por desgracia, aunque nos gustaría, no podemos proteger a nuestros adolescentes de todos los riesgos que hay en el mundo. Y el deepfake está por encima de nuestras posibilidades.

Pero sí podemos educar a nuestros chicos y chicas para que entiendan que el deepfake no es una broma, ni siquiera una de mal gusto, sino una falta muy grave, con consecuencias profundas para quienes lo sufren.

El caso de Almendralejo funcionó como otros muchos: unas pocas personas falsifican las fotografías, algunos les “ríen la gracia” cuando comienzan a difundirse. Y después, una gran mayoría silenciosa no actúa, ni aunque se sientan incómodos, porque la presión grupal es demasiado grande.

Esto, combinado con el hecho de que las chicas sienten vergüenza, y se callan, porque se sienten culpables (una culpa que es fruto de un discurso aún muy extendido frente a la violencia machista: el del “algo habrás hecho”).

Así las cosas, la única arma que tenemos en nuestras manos es la educación.

Podemos educar adolescentes no machistas, pero además podemos insistir en varias ideas importantes: 

• Enseñarles que si les llega material pornográfico, real o no, o cualquier otro material compartido con la idea de humillar a o burlarse de alguien, deben detener la difusión y avisar a una persona adulta.
• Explicarles las implicaciones reales de estas acciones: no son bromas, son humillaciones y, además, pueden ser delito.
• Reforzar su autoestima para hacerles capaces de resistir la presión grupal y de posicionarse claramente ante ataques machistas. A veces los adolescentes siguen al líder negativo por no quedarse solos, pero seguirían al líder positivo si lo hubiera.
• Insistirles en que la culpa nunca es de la víctima. Ni por cómo se viste ni por lo que hace ni por nada. Una víctima es siempre una víctima, y merece nuestro respeto y nuestra defensa.
• Y, siempre, dejar abiertos los caminos de la conversación. Hacerles entender que nuestro amor es incondicional y que estamos ahí para ellos, sin juicios.

Este caso, que se ha vuelto mediático, que tantos artículos está suscitando, puede ser una muy buena excusa para hablar con tu adolescente del deepfake.

Cuéntanos, ¿habías seguido lo ocurrido? ¿Has hablado con tus hijos sobre ello?