Los adolescentes no solo ven fotos de desnudos generadas por IA, sino que también las crean

Por Geoffrey A. Fowler

Quizá pienses que los "deepfakes" con IA son un problema de los famosos. Cuando se difunden por Internet videos manipulados de un político o desnudos falsos de mujeres famosas, el peligro puede parecerte algo lejano para las familias normales.

Pero ahora, la cara que aparece en un desnudo falso podría ser la de un compañero de clase de tu hijo adolescente.

En una nueva encuesta, el 44 % de los adolescentes dijo al Youth AI Safety Institute de Common Sense Media que había visto contenido sexual que creían que había sido generado por IA. Y entre esos adolescentes, casi uno de cada cuatro afirmó que en él aparecía alguien a quien conocían personalmente, o incluso ellos mismos.

Los adolescentes no solo ven este tipo de cosas. Casi uno de cada cinco nos contó que había creado contenido sexual con IA o que conocía a alguien que lo había hecho. De ese grupo, casi dos tercios dijeron que las imágenes mostraban a personas de su propio círculo social: un amigo, una ex o un compañero de clase del otro lado del pasillo.

El contenido sexual generado por IA está apareciendo en los flechazos, las rupturas y los chats grupales que definen la vida de los adolescentes. (Lee el informe completo aquí.)

"Los padres deberían preocuparse no solo porque algunos adolescentes están expuestos a esto. Deberían preocuparse porque los deepfakes están cambiando la forma en que los adolescentes ven la intimidad y el consentimiento", dice mi colega, la Dra. Supreet Mann, quien dirigió la investigación.

La IA ha hecho que una forma grave de acoso sexual sea tan fácil de llevar a cabo que casi cualquier chaval con un móvil pueda hacerlo. Las familias tienen que hablar de esto antes de que ocurra algo, pero también es necesario que la industria tecnológica dé un paso al frente.

Esto está pasando entre jóvenes que se conocen

En nuestra encuesta representativa a nivel nacional, preguntamos a 1.314 adolescentes de entre 13 y 17 años sobre los "deepfakes", los desnudos falsos, las apps para "desnudar" y otras imágenes sexualizadas generadas por IA. Como los adolescentes pueden mostrarse reacios a admitir comportamientos que podrían alarmar a los adultos, Mann cree que los resultados podrían subestimar la frecuencia con la que ocurre esto. Los adolescentes de los grupos de discusión posteriores dijeron que las cifras coincidían con lo que veían entre sus compañeros —o que les parecían bajas—.

Lo que describieron los chavales no se limita a los rincones oscuros de Internet. El contenido sexual generado por IA aparece en los feeds y chats de grupo donde los adolescentes pasan el día, a menudo sin buscarlo y, con frecuencia, compartido por alguien que conocen.

Pregunta: ¿Alguna vez has creado contenido sexual generado por IA, o conoces a alguien que lo haya hecho?

El 8 % de todos los adolescentes —aproximadamente uno de cada 12— dijo que había creado contenido sexual generado por IA. Los chicos eran casi tres veces más propensos que las chicas a hacerlo: un 11 % frente a un 4 %.

¿A qué se debe esta diferencia entre géneros? Debby Herbenick, profesora de la Universidad de Indiana que estudia el comportamiento sexual de los adolescentes y ha colaborado como asesora en el estudio, dice que este patrón ya es conocido. Los resultados "coinciden con los datos sobre el acoso sexual en los colegios y las agresiones sexuales entre adolescentes", me comentó.

La IA no inventó el impulso de cosificar o humillar a un compañero. Lo que hizo fue darle a ese impulso una herramienta mucho más potente.

Todo esto ocurre justo cuando los jóvenes se están formando sus primeras ideas sobre la atracción y el consentimiento. Las motivaciones que hay detrás de crear este contenido no siempre son sencillas. Herbenick dice que las investigaciones sobre el sexting entre adolescentes llevan tiempo revelando una mezcla de coqueteo y curiosidad, así como de acoso y intimidación. Sea cual sea la intención original, una imagen puede convertirse en una humillación pública con una captura de pantalla, una ruptura sentimental o un simple toque en el botón de compartir.

Parte del atractivo puede ser lo fáciles que son de usar las herramientas de IA. "Sin obstáculos ni nada que tengas que sortear, simplemente lo haces ahí mismo", nos contó un participante de 17 años en un grupo de discusión.

Cómo los deepfakes están cambiando la vida de los adolescentes

Los efectos van más allá de los adolescentes cuyos rostros aparecen en una imagen. El simple hecho de saber que alguien podría usar tu cara de esta forma ya está cambiando cómo se comportan los adolescentes.

Dos tercios de los adolescentes nos dijeron que les preocupa que te aparezcas en contenido sexual generado por IA sin tu consentimiento, y las chicas están más preocupadas que los chicos. "Todo el mundo debería tener al menos un poco de preocupación", nos dijo una chica de 17 años, "porque es muy fácil de hacer, muy accesible".

Pregunta: ¿Qué tan preocupados están los adolescentes por ser víctimas de un «deepfake»?

Ese miedo está cambiando poco a poco la forma en que se muestran en Internet. Muchos adolescentes preocupados han puesto sus cuentas en modo privado o han dejado de publicar fotos suyas; casi uno de cada diez ha borrado su cuenta directamente. "No queremos que nadie tenga que vivir con miedo en Internet. Pero si un espacio no es seguro, entonces es una medida de autoprotección tomar algunas medidas para sentirte más a gusto", dijo Herbenick.

Para los adolescentes que se convierten en objetivos en Internet, el daño puede perseguirles también en la vida real. Herbenick afirma que los deepfakes sexuales creados sin permiso pueden provocar o agravar la depresión, la ansiedad y los sentimientos de vergüenza o impotencia. A diferencia de un rumor sexual, una imagen puede parecer una prueba, aunque nada de lo que muestra haya ocurrido realmente.

El daño ya se está notando en los colegios. El Wall Street Journal contó hace poco la historia de una estudiante de Iowa que fue una de las aproximadamente 50 compañeras de clase acosadas por unos chicos que usaban una web de "desnudamiento". Después de que circularan las imágenes falsas, las miradas de los chicos en los pasillos le resultaban tan incómodas que acabó pasando a seguir las clases online. "Me tortura solo de pensarlo", le dijo al Journal.

Su experiencia refleja el desequilibrio con el que viven ahora los adolescentes: una imagen que se crea en segundos puede tardar años en desaparecer.

Cómo ayudar a los adolescentes a lidiar con la era de los deepfakes

La mayoría de los adolescentes que se habían topado con contenido sexual generado por IA entendían que hacer un deepfake sexual de alguien sin su permiso era cruzar una línea: el 82 % dijo que debería ser ilegal.

Pero casi una cuarta parte de los que se habían topado con contenido sexual generado por IA dijeron que los desnudos falsos son menos dañinos que la pornografía real porque "nadie sale perjudicado".

Esa es la idea errónea que los padres deben abordar con mayor urgencia. Que sea falso no significa que sea inofensivo. La humillación, el miedo y la pérdida de control son reales. Herbenick afirma que los adultos deben explicar tanto el daño humano como las posibles consecuencias legales de crear o compartir estas imágenes.

Sin embargo, solo el 20 % de los adolescentes dijo haber hablado sobre el contenido sexual generado por IA con un adulto de confianza. Más de un tercio afirmó que quería hablar con un adulto sobre el tema, pero no sabía por dónde empezar.

El Dr. Kellen Glinder, pediatra de California y miembro del consejo asesor de Common Sense Media, recomienda a los padres que "entren por la puerta lateral, no por la principal". Empezar con palabras cargadas de significado, como pornografía o incluso acoso, dice, puede hacer que el chaval se cierre en banda.

En lugar de preguntar: "¿Alguna vez has creado un desnudo falso?", prueba con algo menos acusatorio, como: "¿Qué has oído sobre los chavales que usan la IA para crear imágenes falsas de personas?".

Si un adolescente dice: "Pero no era real", Glinder aconseja que resistas la tentación de soltar un sermón de inmediato. En su lugar, enfócate en las consecuencias: ¿Qué pasa después de que alguien lo guarde? ¿Cómo te sentirías si fuera tu cara? (Echa un vistazo aquí para ver más ideas para iniciar la conversación).

Por encima de todo, haz que tu hijo se sienta seguro al acudir a ti. El miedo a que le culpen —o a perder el móvil— es una de las razones por las que los adolescentes se callan. Los niños necesitan saber que un padre les ayudará a superar una crisis, dijo Herbenick, incluso si han infringido una norma o han hecho algo mal.

Los padres deben dejar claro que crear o compartir "deepfakes" sexuales de menores puede ser ilegal y acarrear graves consecuencias penales.

Si tu hijo o hija es víctima de esto, utiliza el proceso de denuncia de la aplicación o la página web. Según la ley "Take It Down Act", las plataformas afectadas deben eliminar las imágenes que cumplan los requisitos en un plazo de 48 horas tras recibir una solicitud válida.

Para los colegios, Common Sense Media ofrece un plan de estudios gratuito sobre alfabetización digital y bienestar para alumnos de infantil a 8.º de primaria, que incluye una lección de 8.º de primaria dedicada específicamente a los "deepfakes" y al consentimiento.

Pero esto va más allá de lo que las familias y los colegios pueden resolver por sí solos.

Mann afirma que hay soluciones al alcance de la mano. Las tiendas de aplicaciones podrían dejar de ofrecer las herramientas creadas para generar este contenido. El 16 de julio, el fiscal municipal de San Francisco, David Chiu, envió cartas de cese y desistimiento a Apple y Google exigiéndoles que retiraran 13 aplicaciones de intercambio de rostros capaces de producir deepfakes sexuales.

Las plataformas donde se difunden las imágenes también podrían esforzarse más por detectarlas y eliminarlas de forma proactiva, en lugar de esperar a que un adolescente denuncie un desnudo falso creado con su cara.

Ahora mismo, la responsabilidad de limpiar todo esto recae en la persona con menos poder para gestionarlo: el chaval de la imagen.