Sin embargo, como el ex consejero delegado de la ya desaparecida Cambridge Analytica dice a los realizadores del documental: “no se trata sólo de una empresa”. El documental va más allá y nos abre los ojos a la manera en que nuestras vidas son constantemente observadas —y controladas— mediante la tecnología digital, y llega al núcleo de hasta qué punto el modelo empresarial completo de algunas empresas de alta tecnología puede constituir una enorme amenaza para nuestros derechos humanos.
En el mundo online y digital, todo lo que haces deja un rastro de “escape de datos”: un registro de todo, desde cuándo pones combustible en tu vehículo hasta qué sitios web has visitado. Cuando se combinan, incluso datos aparentemente inocuos pueden revelar MUCHO acerca de una persona.
Cambridge Analytica alardeó de tener 5000 puntos de datos de cada votante estadounidense. Según afirmó, aplicando un análisis “psicográfico” a su conjunto de datos podía determinar el tipo de personalidad de cada persona y luego dirigirle mensajes individuales específicamente diseñados para ella con el fin de influir en su comportamiento. Lafuente más importante de datos era Facebook. A través de la aplicación de un tercero, Cambridge Analytica obtuvo indebidamente datos de hasta 87 millones de perfiles de Facebook, que incluían actualizaciones de estado, indicaciones de “me gusta” e incluso mensajes privados.
Pero este incidente no fue una anomalía: fue la consecuencia inevitable de un sistema basado en recopilar y monetizar nuestra información: el modelo empresarial que laacadémica Shoshana Zuboff denomina “capitalismo de vigilancia”. Las características fundamentales del modelo son: recopilar enormes cantidades de datos de personas, utilizarlos para deducir perfiles increíblemente detallados de su vida y su comportamiento, y monetizarlos vendiendo esas predicciones a otras partes, como por ejemplo anunciantes. Cambridge Analytica se limitó a utilizar el mismo modelo básico para dirigirse a votantes, en lugar de a consumidores.
Este modelo se ha convertido en el núcleo de la economía de datos, y sustenta un complejo ecosistema de empresas tecnológicas, corredores de datos, anunciantes y otros. Pero son los pioneros del modelo, Google y Facebook, los que tienen un acceso inigualable al seguimiento y la monetización de nuestras vidas, al controlar los principales portales —fuera de China— al mundo online (entre ellos, Google Search, Chrome, Android, YouTube, Instagram y WhatsApp).
Facebook y Google, por supuesto, han afirmado reiteradamente su compromiso de respetar los derechos humanos. Sin embargo, cada vez con más frecuencia, nos vemos obligados a preguntar si el modelo de vigilancia de Internet en sí mismo entra inherentemente en conflicto con nuestros derechos humanos.
Facebook y Google han amasado cámaras de datos con un volumen sin precedentes de información sobre seres humanos. Es algo que va mucho más allá de los datos que usted ha decidido compartir en sus plataformas, e incluye la inmensa cantidad de datos registrados cada vez que usted entra en el mundo digital. La vigilancia empresarial masiva a semejante escala amenaza la esencia misma del derecho a la privacidad. De hecho, en 2010, el director ejecutivo de Facebook, Mark Zuckerberg, en una famosa declaración, admitió que las redes sociales ya habían cambiado la privacidad como “norma social”.
Sin embargo, la recopilación de datos es sólo la primera parte de la historia. El siguiente paso es utilizar complejos análisis impulsados por el aprendizaje automático para elaborar perfiles de personas y, de esa manera, influir en su comportamiento. En la agitación causada por Cambridge Analytica, las prácticas de perfilación (profiling) delpropio Facebook han eludido en gran medida el escrutinio. La empresa ha explorado una perfilación de personalidad, cómo manipular las emociones, y cómo dirigirse a lagente basándose en sus vulnerabilidades psicológicas, por ejemplo cuando se sienten “inútiles” o “inseguras”. Google desarrolló una herramienta para dirigir anuncios publicitarios de forma tan precisa que pueden influir en las creencias de la gente y cambiar su comportamiento mediante la “ingeniería social”. Aunque inicialmente esta herramienta se desarrolló para luchar contra el extremismo islámico, está a disposición pública para que cualquiera la utilice (indebidamente).
Una de las preguntas más urgentes e incómodas planteadas en “El gran hackeo” es: ¿hasta qué punto somos susceptibles a esa manipulación del comportamiento? En última instancia, si estas capacidades son tan poderosas como las empresas y sus clientes afirman, constituyen una amenaza real a nuestra capacidad de tomar nuestras propias decisiones autónomas, o incluso a nuestro derecho de opinión, socavando el valor fundamental de la dignidad que sustenta todos los derechos humanos. La publicidad y lapropaganda no son nuevas, pero no hay precedentes de mensajes dirigidos a personas de una manera tan íntima y profunda, y a una escala de poblaciones enteras.
El modelo también puede ayudar a alimentar la discriminación. Las empresas —y los gobiernos— podrían abusar fácilmente de los análisis de datos para seleccionar a personas en función de su raza, etnia, religión, género u otras características protegidas. La presión para atraer la atención de los usuarios y mantenerlos en las plataformas también puede fomentar la actual tendencia tóxica hacia la política de demonización. Es más probable que la gente haga clic en materiales sensacionalistas o incendiarios, lo que significa que las plataformas dan prioridad sistemáticamente a teorías de la conspiración, misoginia y racismo.
¿Qué hay que hacer? El modelo empresarial impulsado por datos representa un problema sistémico y estructural que no será fácil de abordar y que requiere una combinación de soluciones políticas y normativas. Sin duda, parte de la respuesta es una protección de datos más firme: el cumplimiento debido del Reglamento general de protección de datos de la Unión Europea, de alcance internacional, y su utilización como modelo en otros países, mitigaría el alcance de la prospección de datos y laperfilación (profiling).
También se han vuelto habituales los llamamientos más radicales para que se disuelvan las grandes empresas tecnológicas, y el sector ya está siendo examinado por las autoridades relativas a la competencia en diversas jurisdicciones. Una reciente decisión de la Oficina Federal de Defensa de la Competencia alemana de limitar el intercambio y la recopilación de datos entre Facebook y WhatsApp es un ejemplo de una medida concreta para luchar contra la concentración de poder en los grandes actores.
Sean cuales sean las herramientas normativas que se utilicen, es fundamental que estén basadas en un análisis de los riesgos de derechos humanos que plantea el modelo. Los derechos humanos brindan el único marco internacional y jurídicamente vinculante que puede reflejar las múltiples formas en que el modelo empresarial está afectando a nuestras vidas, y lo que significa ser humano, además de hacer rendir cuentas a las empresas.
Lo que está claro es que los esfuerzos actuales no abordan las causas fundamentales del problema. Hace dos semanas, los reguladores estadounidenses aprobaron un acuerdo récord de 5.000 millones de dólares contra Facebook por la causa de Cambridge Analytica. Sin embargo, cuando se hizo pública la noticia de la multa, el precio de las acciones de Facebook SUBIÓ.
Lección: la empresa y sus inversores estarán contentos si esto se queda en un incidente aislado. Les costará una multa relativamente simbólica —5.000 millones de dólares esuna gota en el océano para una empresa que obtiene unos beneficios netos de 22.000 millones de dólares al año— y tendrán que introducir unas cuantas mejoras en sus protecciones de privacidad, pero luego volverán a funcionar como si nada.
No podemos permitir que eso suceda. Ya es hora de hacer frente al impacto que en los derechos humanos tiene el propio “capitalismo de vigilancia”.
