Muchos usos de la tecnología emergente, incluida la IA, están contribuyendo directamente a aumentar la desigualdad social, racial y económica en todo el mundo, según una nueva investigación de Amnistía Internacional.

El informe, titulado Brechas digitales: Tecnología, desigualdad y derechos humanos, examina ampliamente los diferentes usos de la tecnología emergente en muchos sectores y muestra cómo muchas de las tecnologías emergentes actuales se basan en modelos de extracción económica que perpetúan prejuicios históricos, especialmente contra las personas racializadas, las que viven en la pobreza, las personas con discapacidad y las pertenecientes a otros grupos marginados.

“Lo que hemos visto en todo el mundo, sobre todo a raíz de la pandemia, es un aumento drástico de las formas en que las personas y los gobiernos dependen de diversas formas de tecnología emergente. Se ha demostrado que muchas de estas tecnologías, especialmente las basadas en un modelo de negocio de extracción de datos, perjudican a los grupos marginados de formas que a menudo perpetúan o exacerban desigualdades estructurales”, ha declarado Eliza Aspen, investigadora sobre tecnología y desigualdad en Amnistía Internacional.

Brechas digitales examina cómo una serie de nuevas tecnologías son cada vez más fundamentales para el acceso de las personas al trabajo y a servicios esenciales en todo el mundo, y pueden afectar a la capacidad de las personas para acceder a la atención sanitaria, la vivienda, la educación, la protección social y otros servicios esenciales que son centrales para los derechos humanos. Los derechos laborales y la tecnología son un área de especial atención en Brechas digitales, ya que gobiernos de todo el mundo han lidiado con la explotación laboral humanaque a menudo se encuentra en el centro de muchas herramientas de IA generativa.

Investigaciones anteriores de Amnesty Tech han examinado el carácter extractivo del modelo empresarial basado en la vigilancia de las grandes empresas tecnológicas, así como el uso no regulado y creciente de la toma de decisiones basada en algoritmos en el sector público, en particular en el caso de sistemas discriminatorios utilizados para detectar el fraude en organismos encargados de aplicar la seguridad social. “Las violaciones de los derechos a la privacidad y a la no discriminación están integradas en el modelo de negocio de muchas empresas tecnológicas”, dijo Eliza Aspen, “y vemos, cada vez más, cómo estos sistemas pueden socavar los derechos a la protección social y a unas condiciones de trabajo dignas.”

“El contexto en el que se desarrollan y despliegan estas tecnologías es crucial porque, especialmente como vemos desde 2020, los resultados sanitarios y económicos están cada vez más ligados a desigualdades raciales, económicas y sociales previamente existentes. La opacidad de los algoritmos de las grandes empresas tecnológicas, cruciales para que las personas marginadas accedan a información o servicios esenciales on line, o la importancia central de las aplicaciones móviles del sector público para que las personas accedan a su derecho de asilo en la frontera estadounidense, por ejemplo, son casos claros de cómo la tecnología, en un contexto determinado, puede exacerbar la desigualdad existente”, prosiguió Eliza Aspen.

En todo el mundo, aumentan tanto la desigualdad de la riqueza como la pobreza extrema, especialmente desde la pandemia de COVID-19, que ha acabado con casi cuatro años de avances en la reducción de la pobreza mundial y ha sumido a otros 93 millones de personas en la pobreza extrema. Amnistía Internacional pidió una protección social universal en respuesta a la creciente crisis de desigualdad, que provoca de forma creciente violaciones de derechos humanos.

Brechas digitales también se basa en el trabajo previo de Amnistía para ayudar a mostrar cómo las violaciones de derechos humanos tienen una naturaleza cada vez más interseccional, y cómo factores de marginación como el género, la sexualidad, la situación económica, la raza y la discapacidad están esencialmente entrelazados. El informe identifica a las personas más afectadas por la tecnología y la desigualdad como grupos con una condición de ciudadanía insegura, incluidas las personas refugiadas y solicitantes de asilo; las personas que experimentan racismo estructural, en particular los personas negras, indígenas y las pertenecientes a otros grupos racializados; las que viven en la pobreza o en la inseguridad económica; las que están o han estado encarceladas, así como otras personas que interactúan con el sistema de justicia penal; los niños, niñas y jóvenes; y las personas que viven con discapacidad.

“Muchas personas marginadas se ven obligadas a depender de plataformas tecnológicas para la comunicación, el trabajo y la educación, a pesar de que su capacidad para protegerse de las violaciones de su privacidad y de la discriminación —que a menudo facilitan estas tecnologías— continúa erosionándose”, ha afirmado Aspen.

El informe sigue a otras investigaciones de Amnesty Tech que han puesto de relieve la creciente intersección de la tecnología y el bienestar social en todo el mundo, especialmente en lo que respecta al uso cada vez mayor de la toma de decisiones basada en algoritmos.

En un dictamen jurídico presentado por Amnistía y otras siete organizaciones de derechos humanos en noviembre de 2022, se expresaba preocupación por la adopción de una ley que aprobaba la creación de una base de datos gubernamental centralizada para procesar los datos personales de quienes solicitan ayudas de la seguridad social, algo que, según el equipo de investigación de Amnistía, podría afectar a los derechos de las personas a la seguridad social, la igualdad y la no discriminación.

El informe Xenophobic Machines, publicado en 2021, exponía cómo la elaboración de perfiles raciales estaba integrada en el diseño del sistema algorítmico utilizado para determinar si las solicitudes de prestaciones por cuidado infantil en Países Bajos eran potencialmente fraudulentas.

“Las nuevas formas de digitalización se están extendiendo a más ámbitos de la vida pública y privada, con casos especialmente preocupantes relacionados con la migración y el asilo, la gestión laboral y del lugar de trabajo, y el sistema de justicia penal”, concluyó Aspen.

Brechas digitales es el primero de cuatro informes sobre tecnología y desigualdad cuyo objetivo es iniciar conversaciones entre organizaciones de la sociedad civil, gobiernos y movimientos preocupados por el aumento de la desigualdad en todo el mundo, especialmente en el contexto de nuevas tecnologías como la IA.