En vísperas de la Cumbre de Acción sobre la Inteligencia Artificial, que comienza el 10 de febrero, Damini Satija, directora del programa de tecnología y derechos humanos de Amnistía Internacional, ha declarado:
“Ahora que los dirigentes globales y los ejecutivos de las empresas tecnológicas se reúnen para asistir a la Cumbre de Acción sobre la Inteligencia Artificial (IA) en París, el gobierno francés no debe dejar escapar esta oportunidad crucial para realizar unos progresos significativos encaminados a lograr una regulación global de la IA que respete los derechos humanos. Los gobiernos presentes en la Cumbre no deben dejarse influir por los intereses empresariales a expensas de quienes sufren los mayores impactos de los sistemas de IA hoy día”.
“Aunque Francia ha realizado una importante tarea al acoger la Cumbre, la participación de la sociedad civil y los activistas de derechos humanos en la agenda principal es totalmente insuficiente. No se ha dado prioridad a la asignación de los recursos necesarios para garantizar un diálogo colaborativo con representantes de la mayoría global, comunidades afectadas y activistas de derechos humanos.”
“La falta de apoyo de los organizadores de la Cumbre a los defensores y defensoras de los derechos humanos y a los y las representantes de comunidades que necesitan visados para entrar en Francia ilustra la ausencia de un auténtico compromiso de mantener un diálogo igualitario con la sociedad civil, especialmente por parte de los países de la mayoría global.”
“Si los Estados quieren realmente conseguir un enfoque abierto, inclusivo y con múltiples partes interesadas respecto al desarrollo, el despliegue y la regulación de las tecnologías de IA, deben elevar y destacar las voces y prioridades de las comunidades afectadas.”
“Los agentes estatales tampoco deben verse influidas por la falsa ‘dicotomía entre innovación y regulación’ repetida hasta la saciedad por las empresas tecnológicas y sus directivos para sofocar los esfuerzos reguladores centrados en los derechos humanos. Los gobiernos no deben ignorar los problemas sistémicos subyacentes de derechos humanos acrecentados por la automatización de nuestras vidas y el despliegue de tecnologías de IA.”
“Vivimos en un mundo cada vez más aterrador. La omnipresencia de algoritmos predictivos, unida al reciente retroceso global de las libertades civiles, amenaza con dar carta blanca a las empresas tecnológicas para que operen sin normas ni directrices.”
“Aunque los gobiernos presentan estos anuncios como ‘soluciones eficientes’, cada vez van más acompañados por políticas de austeridad y por el despliegue de tecnologías de AI con uso intensivo de datos. Además, estos sistemas también amplifican la discriminación preexistente en la sociedad, que en última instancia da lugar a exclusión, desigualdades y el afianzamiento del poder empresarial.”
“Existen amplias pruebas, así como investigaciones llevadas a cabo por la sociedad civil y por periodistas, que exponen las graves consecuencias de que las tecnologías de IA operen sin control. Desde los letales sistemas de armas autónomos hasta el reconocimiento facial utilizado para la vigilancia masiva, pasando por el uso de algoritmos de puntuación de riesgos en el contexto de la migración y en el sector público para la distribución de prestaciones sociales, ha quedado más que claro que el despliegue y el uso de esas tecnologías son incompatibles con nuestros derechos y desprecian la dignidad humana.”
“También tenemos que reconocer que los daños perpetuados por las tecnologías de IA tienen consecuencias de largo alcance, que van más allá de las tecnologías en sí mismas. Las explotadoras cadenas de suministro que las alimentan, basadas en prácticas laborales inhumanas y que causan un grave daño medioambiental, han tenido un impacto desproporcionado en las personas, especialmente en la mayoría global. Habida cuenta de esos efectos devastadores y duraderos de las tecnologías de IA, es fundamental que el impacto de estas tecnologías no se aborde únicamente dentro de las fronteras de los Estados, sino también más allá de ellas.”
“Toda la regulación de la IA debe asimismo estar libre de lagunas y exenciones que amenacen con violar los derechos humanos. Todos los actores públicos y privados, incluidos los cuerpos de aplicación de la ley, de gestión de fronteras y de seguridad nacional, deben cumplir las normas de derechos humanos durante todo el ciclo vital de las tecnologías de IA, incluidas sus fases de investigación, desarrollo y prueba.”
“Y lo que es más importante, las personas y comunidades afectadas por la IA deben estar empoderadas para pedir resarcimiento y remedio. Como requisito previo para un remedio efectivo, a las personas afectadas se les debe garantizar el derecho a que se les informe y se les explique la toma de decisiones apoyada en la IA, incluido el uso y el funcionamiento de la IA en el sistema.”
Damini Satija asistirá a toda la Cumbre de Acción sobre la Inteligencia Artificial en París, del 10 al 11 de febrero. Estará disponible para entrevistas sobre una amplia variedad de cuestiones tecnológicas, como por ejemplo:
a) la inteligencia artificial y la rendición de cuentas sobre el uso de algoritmos,
b) regulación de la inteligencia artificial,
c) las grandes empresas tecnológicas y la política,
d) los programas espía y la vigilancia,
e) los derechos digitales de niños, niñas y jóvenes.
Información para periodistas
Damini Satija es experta en tecnología, derechos humanos y políticas públicas. Es la directora de Amnesty Tech, el programa de tecnología y derechos humanos del movimiento al que se unió originalmente para establecer el Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos (una unidad interdisciplinar que investiga el impacto de las tecnologías de inteligencia artificial en los derechos humanos). Amnesty Tech trabaja en una diversidad de áreas, especialmente los programas espía y los ciberataques, la vigilancia, el uso de la inteligencia artificial y la automatización por parte de los Estados, la rendición de cuentas de las grandes empresas tecnológicas, y los derechos de niños, niñas y jóvenes en entornos digitales. Antes de incorporarse a Amnistía Internacional, trabajó en una serie de funciones de política tecnológica. Recientemente fue asesora general de política en el Center for Date Ethics & Innovation, órgano experto independiente del gobierno de Reino Unido sobre datos y política de IA, y fue la experta de Reino Unido en política en el Comité sobre la Inteligencia Artificial y Derechos Humanos del Consejo de Europa.
Si desean más información o concertar una entrevista, pónganse en contacto con la oficina de prensa de Amnistía Internacional:press@amnesty.org
