Con motivo de la próxima Cumbre de Seguridad de la IA de Reino Unido, que comenzará el miércoles 1 de noviembre, Damini Satija, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional, ha manifestado:

“La Cumbre Mundial de Seguridad de la IA de Reino Unido debe dar buen ejemplo en la carrera global para regular la inteligencia artificial, y no estar dominada por discursos especulativos sobre las “amenazas existenciales” de estas tecnologías, en perjuicio de quienes hoy sufren las peores consecuencias de los sistemas de IA en materia de derechos humanos.

La semana pasada, el primer ministro británico, Rishi Sunak, promovió el uso de las herramientas de IA para ‘actuar drásticamente contra quienes defraudan prestaciones sociales’ como un positivo avance tecnológico, haciendo caso omiso de la investigación que demuestra el carácter discriminatorio de estos sistemas y su frecuente uso indebido.

¿Dónde reconoce el gobierno estos daños que causa la IA, y dónde está su interés en regular y proteger a las comunidades más marginadas? El programa de trabajo de esta cumbre sobre inteligencia artificial favorece claramente los intereses del sector tecnológico, y esto es preocupante dado que el uso de tales tecnologías tiende a perjudicar a los grupos marginados.

En un ensayo anterior con estas tecnologías en Reino Unido, el Ministerio de Trabajo y Pensiones trató injustamente a personas discapacitadas, sometiéndolas a investigaciones por fraude en el cobro de prestaciones y sumiéndolas en un laberinto burocrático interminable, sin visos de transparencia ni justicia.

En 2021, la investigación de Amnistía Internacional puso al descubierto las devastadoras consecuencias de un sistema de IA discriminatorio empleado por las autoridades tributarias neerlandesas para detectar solicitudes fraudulentas de prestaciones infantiles, y sus efectos racializados sobre el derecho a la seguridad social. Cuatro años después, las personas afectadas siguen esperando justicia y rendición de cuentas.

Los Estados tienden a implementar sistemas de IA como 'soluciones técnicas' a problemas sociales, pero en la práctica suelen ser medidas de reducción de costes que agravan políticas que ya son punitivas para la población marginada.

Los compromisos que se formulen en la cumbre no deben centrarse en discursos alarmistas sobre la IA, sino acercarnos más a una normativa que garantice que las medidas de protección que adoptamos frente a los daños causados por la IA se centran en los derechos humanos y las voces de las comunidades afectadas.”

Información complementaria

Amnistía Internacional, en colaboración con más de 100 organizaciones de la sociedad civil, ha pedido al gobierno británico que las personas y comunidades más afectadas por la IA sigan estando en primera línea de la toma decisiones sobre la IA.

Amnistía Internacional, como parte de una coalición de organizaciones de la sociedad civil encabezada por la Red Europea de Derechos Digitales (EDRi), viene pidiendo una regulación de la UE sobre la inteligencia artificial que proteja y promueva los derechos humanos, incluidos los derechos de las personas en movimiento.