Cómo hablar con los adolescentes sobre los "deepfakes" generados por IA y los contenidos explícitos

Seguro que has oído hablar de cómo se usa la IA para crear fotos y videos falsos de personas reales en desnudo. A esto se le llama "deepfake", y no es solo algo que sale en las noticias: está apareciendo en el día a día de los jóvenes.

Algunos niños se topan con este contenido por casualidad, mientras se desplazan por sus redes sociales o en los chats de grupo. Otros intentan crearlo ellos mismos, quizá solo por diversión y sin darse cuenta de lo grave que es. Y algunos niños se convierten en el objetivo. Alguien te saca una foto y usa una app para convertirla en un desnudo falso. Luego la comparte por el colegio o por Internet, sin que tú te enteres ni hayas dado tu consentimiento.

Esta es la cruda realidad: es algo con lo que muchos chavales ya están lidiando, lo hablemos o no. Como la imagen es "falsa", algunos chavales piensan que no pasa nada. Al fin y al cabo, nadie ha salido herido, ¿no? Pero la persona de esa foto es real, y también lo son la vergüenza, el miedo o la humillación que podría sentir si se difunde.

Los "deepfakes" también tienen consecuencias reales. Crear una imagen sexual de cualquier menor de 18 años, incluso con IA y aunque sea en broma, puede considerarse material de abuso sexual infantil, lo cual es un delito grave. Los chavales deben saber que, si alguna vez les pasa esto a ellos o a un amigo, no tienen por qué afrontarlo solos. Pueden hablar con un adulto de confianza, contárselo a alguien del colegio, denunciarlo a la app o la web, o ponerse en contacto con organizaciones que se dedican específicamente a esto.

Muchos chicos piensan que los adultos simplemente "no lo entenderán", ya que no crecimos con esta tecnología, así que pueden quedarse callados en lugar de pedir ayuda. Por eso mismo es importante que seáis vosotros, los adultos, quienes saquéis el tema primero. Aprovecha la ocasión para hablar de lo básico: respetar los límites de los demás, preguntar antes de compartir cualquier cosa sobre alguien y entender que el consentimiento es tan importante en Internet como en la vida real. No hace falta que tengas todas las respuestas. Solo tienes que hacerle saber a tu hijo que eres alguien en quien puede confiar. Aquí tienes algunas ideas para romper el hielo y empezar la conversación.

1. 💡 Los "deepfakes" no son un problema abstracto para los adolescentes. Son algo personal.

Casi la mitad de los adolescentes (44 %) dice que ya ha visto imágenes sexuales generadas por IA, según un estudio reciente de Common Sense Media. Y 1 de cada 4 de esos adolescentes afirma que las imágenes mostraban a ellos mismos o a alguien que conocen.

🗨️ Puedes decir: Oye, he leído algo alucinante sobre cómo se usa la IA para crear fotos falsas de personas reales desnudas. Al parecer, muchos chavales de tu edad ya se han topado con eso.

❓ Luego puedes preguntar: ¿Alguna vez has visto algo así? ¿Te ha pasado algo así a ti o a alguien que conozcas? ¿Ha cambiado eso tu forma de ver lo de publicar fotos tuyas en Internet?

2. 💡 Puede que algunos chavales no entiendan cómo los "deepfakes" pueden hacer daño a la gente.

Alrededor del 25 % de los adolescentes piensan que las fotos de desnudos creadas con IA son menos dañinas que la pornografía real porque creen que "nadie sale perjudicado".

🗨️ Puedes decir: Entiendo por qué la gente piensa que una foto falsa no es para tanto. Ni siquiera es real, ¿verdad? Pero la persona a la que se parece es real, y también lo es lo humillada o asustada que se sentiría si se difundiera. Esa parte no es falsa en absoluto.

❓ Luego puedes preguntar: ¿Qué opinas? ¿Te parece que una foto de desnudo generada por IA es diferente a una foto real? ¿Cómo crees que te sentirías si te pasara a ti o a un amigo? ¿Las apps que hacen que alguien parezca mayor o lleve otra ropa hacen que las fotos falsas generadas por IA parezcan demasiado fáciles o normales?

3. 💡 Puede que algunos chavales no entiendan las consecuencias reales de los deepfakes.

De los adolescentes que han visto contenido sexual creado con IA, el 82 % dice que debería ser ilegal hacerlo sin permiso. Pero es tan fácil de crear y compartir que muchos lo hacen de todos modos.

🗨️ Puedes decir: Quiero hablar de algo serio un momento, ¿vale? Si alguien usa la IA para crear una foto falsa de desnudo de una persona menor de 18 años, eso puede considerarse pornografía infantil, lo cual es un delito grave según la ley. No importa si es una broma. No importa si parece falso. No te digo esto para asustarte. Solo quiero que lo sepas antes de que se convierta en un problema.

❓ Entonces puedes preguntarte: ¿Ya lo sabías? ¿Alguna vez ha pasado que alguien haya creado o difundido algo así entre tus amigos?

4. 💡 La mayoría de los adolescentes no han hablado de esto con un adulto de confianza.

Solo el 20 % de los adolescentes ha hablado con un adulto de confianza sobre el contenido sexual creado por IA. Aproximadamente un tercio quiere hablar de ello, pero no sabe por dónde empezar.

🗨️ Puedes decir: Solo quiero que sepas que, si alguna vez ves algo tan perturbador como esto, ya sea que alguien te lo haya enviado o incluso que sea sobre ti, siempre puedes venir a contármelo. No te meterás en problemas por contármelo, pase lo que pase.

❓ Luego puedes preguntar: "Si alguna vez te pasara algo así, ¿sabrías qué hacer primero? ¿A quién te lo contarías?".

5. 💡Los adolescentes no solo son víctimas de los "deepfakes". Algunos también los crean.

Aproximadamente 1 de cada 5 adolescentes (18 %) ha creado contenido sexual con IA o conoce a alguien que lo haya hecho. Aproximadamente 1 de cada 4 (25 %) ha compartido este tipo de contenido o conoce a alguien que lo haya hecho. La mayoría de las veces, lo hacen con personas que conocen: el 63 % de esos adolescentes ha creado contenido en el que aparecen ellos mismos o alguien que conocen. Los chicos son casi tres veces más propensos que las chicas a haberlo hecho (11 % frente a 4 %).

🗨️ Puedes decir: Hay tantas aplicaciones nuevas de IA ahora mismo que, sinceramente, no me da tiempo a seguirles el ritmo. ¿Me puedes enseñar un par de las que usáis tú o tus amigos?

❓ Luego puedes preguntar: ¿Cuáles crees que se podrían usar mal para crear algo como una foto falsa de alguien?

Al igual que con las conversaciones sobre sexo y pornografía en general, intenta mantener una serie de charlas breves y continuas, en lugar de una sola charla larga. Mantén una actitud abierta, evita juzgar y espera que la conversación pueda ser breve. Puede que tu hijo o hija no diga mucho (al principio o en absoluto), pero sigue siendo una conversación que vale la pena tener.

Qué hacer si tu hijo o hija es víctima de contenido "deepfake"

Averigua qué hacer si alguien usa la IA para crear una foto o un video sexual falso de tu hijo, o si comparte imágenes explícitas reales de él sin su consentimiento. Empieza por compartir la estrategia A.C.T. con tu hijo, para que sepa cómo pedir ayuda.

Pide ayuda a un adulto de confianza. Si esa persona no se lo toma en serio, busca a alguien que sí lo haga.

Recopila pruebas haciendo capturas de pantalla de los nombres de usuario, los nombres de las cuentas y el lugar donde apareció el contenido, pero no guardes, reenvíes ni difundas la imagen explícita en sí. Valora si debería ser un adulto de confianza quien se encargue de recopilar las pruebas, sobre todo cuando se trate de imágenes de desnudos.

Cuídate. Busca el apoyo de familiares y amigos, y tómate tu tiempo para hacer cosas que te ayuden a mantener una actitud positiva. No estás solo, y esto no es culpa tuya.

Estas organizaciones pueden ayudarte si tu hijo o hija es víctima de desnudos deepfake. Ofrecen apoyo y orientación paso a paso.

• Thorn
• Stop NCII
• Centro Nacional para Niños Desaparecidos y Explotados
• Iniciativa por los Derechos Civiles en Internet — línea de ayuda: (844-878-2274)

También puedes denunciar a Take It Down aquellas plataformas que no eliminen fotos o videos íntimos compartidos sin consentimiento, o material sospechoso de abuso sexual infantil.