Guía para padres sobre Prejuicio cifrado

Se trata de una película que invita a la reflexión sobre cómo las diversas formas de vigilancia biométrica, inteligencia artificial y tecnología de la ciencia de datos pueden ser sesgadas tanto en su aplicación como en su uso. Todo el mundo debería ver esta película para comprender el modo invasivo e incluso perjudicial en que la visión por ordenador, la toma de decisiones automatizada y el marketing selectivo pueden tener consecuencias reales y duraderas para las personas. Las pruebas de discriminación son abundantes: Los espectadores oyen hablar de una herramienta de selección de personal que rechaza a todas las candidatas, de una aplicación de tarjeta de crédito que da a las mujeres límites de crédito más bajos, de un algoritmo de seguros que da prioridad a los miembros blancos sobre las personas de color. La idea de la neutralidad de las máquinas es, de hecho, un mito, dicen los expertos. Si no se regula, afirma Buolamwini, la tecnología es como el Salvaje Oeste, por lo que necesitamos leyes que garanticen que la tecnología no es discriminatoria. "La gente que ha sido marginada lo será aún más si no buscamos formas de asegurarnos de que la tecnología que estamos creando no propague prejuicios", afirma.

En otros momentos de la película, una activista británica preocupada por el uso de cámaras en su país, similar al Gran Hermano, habla de cómo todo lo que la gente hace con la tecnología significa ser observada, rastreada y vigilada. Kantayya defiende la transparencia, la regulación y el activismo con una impresionante lista de entrevistados (no es casualidad que se centre en mujeres líderes en estos campos) que dejan claro que, como usuarios de las redes sociales, ofrecemos voluntariamente tanta información sobre nosotros mismos que es fácil para los científicos de datos y los algoritmos predecir nuestros intereses, comportamiento e incluso vicios. Mientras que el marketing de maquillaje y ropa puede parecer inofensivo, el marketing de ideas o candidatos políticos es otra cosa muy distinta. Esta película, junto con El dilema social, debería verse obligatorio para que las familias hablen de ciudadanía digital, privacidad y la enorme influencia que la industria tecnológica tiene en nuestra vida cotidiana.