Common Sense Media explica: ¿Qué son los videos deepfake?

A todo el mundo le encantan esos videos de cosas que son obviamente falsas: perros que hablan como humanos o Nick Offerman interpretando todos los papeles de Full House. Pero la misma tecnología que permite estos videos absurdos también tiene un lado oscuro: los deepfakes. Aquí te contamos qué son los deepfakes, por qué la gente los hace y por qué podrían suponer una gran amenaza para la confianza pública.

¿Qué son los "deepfakes"?

Un "deepfake" o ultrafalso es un video creado mediante inteligencia artificial (IA) que muestra a personas reales haciendo y diciendo cosas que nunca hicieron. Las primeras iteraciones de deepfakes aparecieron en la pornografía, cuando se incluían a famosos en las escenas, pero ahora se utilizan como entretenimiento, como sátira o como arma política y propagandística.

El director y cómico Jordan Peele se asoció con Buzzfeed y Barack Obama para crear este video deepfake que sirviera como advertencia de lo que puede hacer un video manipulado.

¿Cómo se hacen los deepfakes?

Aunque tú y tus hijos pueden crear videos editados utilizando aplicaciones ampliamente disponibles como TikTok, Likee y Funimate, no puedes utilizarlas para hacer deepfakes. Hay dos aplicaciones que pueden crear deepfakes, Fakeapp y DeepFaceLab, que se pueden descargar gratuitamente, pero fabricar un deepfake convincente requiere mucho esfuerzo y tiempo, incluso para los aficionados a la informática con conocimientos técnicos. No cabe duda de que, a medida que mejore la tecnología, el software de deepfake será más accesible. Mientras tanto, los creadores de deepfakes con conocimientos técnicos e intenciones maliciosas se dedican a su oficio, y esto podría convertirse en un gran problema.

¿Por qué se hacen?

Los deepfakes están diseñados para engañar intencionadamente a la gente y difundir información falsa. Aunque las imágenes falsas pueden utilizarse como entretenimiento y sátira en la televisión y las redes sociales (donde suelen identificarse como tales), los deepfakes son creados por personas con un interés personal, una agenda que promover o un deseo de trollear. Poco a poco se están haciendo más comunes -y son cada vez más difíciles de detectar-, lo que plantea problemas al gobierno, a la industria tecnológica y a las familias, a las que cada vez les resulta más difícil confiar en lo que ven.

¿Deben preocuparse las familias por los deepfakes?

Manipular imágenes para mostrar un punto de vista y persuadir a los espectadores no es nada nuevo. Pero los deepfakes no son como las modelos aerografiadas de las revistas o los filtros de brillo de Snapchat. Cuando sus objetivos son cargos electos, acontecimientos históricos reales u otra información pública, tienen el potencial de erosionar la confianza de la gente, algo que asusta especialmente en vísperas de las elecciones presidenciales de 2020. Por estas razones, los deepfakes han llamado la atención de los políticos. En julio de 2019, el presidente del Comité de Inteligencia de la Cámara de Representantes de EE.UU. , Adam Schiff, escribió cartas a los directores ejecutivos de Facebook, Twitter y Google preguntándoles por las políticas formales de sus empresas sobre los deepfakes y el desarrollo de tecnologías para detectarlos. Pero hasta ahora, las empresas no han respondido ni han declarado públicamente cómo van a tratar este fenómeno emergente.

¿Qué puedes hacer ante los deepfakes?

Puede que los niños sepan más sobre deepfakes que todos nosotros. Lo saben todo sobre el uso de herramientas de edición como las de Snapchat, Instagram y Facetune para crear imágenes únicas, y saben que no deben fiarse de todo lo que ven. Estas habilidades de alfabetización mediática serán esenciales a medida que sigan creciendo en un entorno online en el que cualquiera puede crear cualquier cosa fácilmente. Dado que el problema de los deepfakes no hará más que crecer, es hora de que hables con tus hijos no sólo de cómo reconocer las señales de que un video está manipulado, sino también de discutir el porqué de la intención del productor.

¿Cómo puedes detectar un deepfake?

Dado que los humanos podemos ser engañados fácilmente, puede que sean las empresas tecnológicas las que nos ayuden a reconocer los deepfakes y a señalar los potenciales. Muchas están desarrollando sofisticados algoritmos e IA con este fin. Por ejemplo, la empresa de software Adobe, creadora de Photoshop, se asoció con investigadores de la Universidad de California en Berkeley para entrenar a la IA en el reconocimiento de la manipulación facial. Con el tiempo, esta herramienta podría ayudar a los consumidores a detectar las deepfakes. Mientras tanto, las siguientes características podrían ayudarte a ti y a tus hijos a reconocer una:

• decoloraciones en la cara
• iluminación incorrecta
• sonido y video mal sincronizados
• borrosidad en la unión de la cara con el cuello y el pelo

Deepfakes famosos

• En YouTube, los deepfakes de películas y famosos son muy populares. En un caso, Sylvester Stallone se convierte en Arnold Swarzenegger en Terminator 2. ¿Qué te parece Keanu Reeves como Forrest Gump?
• En Instagram, un personaje generado por IA llamado Lil Miquela tiene 1,5 millones de seguidores e interactúa con otros usuarios. Lil Miquela no representa un video deepfake -es una estratagema publicitaria-, pero demuestra la aceptación de algunos consumidores de representaciones digitales imaginarias.

¿Qué podemos hacer contra los deepfakes?

Dado que los medios trucados están cada vez más normalizados, o al menos extendidos, ayuda a tus hijos a pensar de forma crítica sobre esta tendencia:

• Familiarízate. Dedica 10 minutos a ver esta explicación de deepfakes de Above the Noise o este resumen de algunos de los videos de deepfakes más populares hasta la fecha.
• Habla de ellos. Pregunta a tus hijos si les gustan o no las imágenes y videos manipulados. ¿Cuál es su atractivo? ¿Por qué creen que son populares y se difunden ampliamente? ¿Creen que hay algún problema asociado a esta tendencia?
• Debate sobre la responsabilidad personal. Discute si está bien engañar intencionadamente a la gente con deepfakes y qué responsabilidad tienen los creadores y los consumidores. ¿Tiene la industria tecnológica algún papel que desempeñar para limitar la difusión de los deepfakes?
• Debate sobre deepfakes concretos. ¿Han visto algún video viral editado? ¿La manipulación era evidente o más sutil? ¿Cuál era el objetivo del video? ¿Por qué alguien haría un deepfake?
• Verifícalos. Prueba a utilizar una búsqueda inversa de imágenes cargando un video en la barra de búsqueda de Google (sólo tienes que copiarlo y pegarlo).
• Investiga más a fondo. Es impresionante todo lo que protege la Primera Enmienda. Aquí tienes una explicación de qué tipos de expresión están protegidos y desprotegidos en la Declaración de Derechos (Bill of Rights).