Global/Reino Unido: La Cumbre de Seguridad de la Inteligencia Artificial no debe ignorar los graves perjuicios para los derechos humanos que causa la tecnología de detección de fraudes
Con motivo de la próxima Cumbre de Seguridad de la IA de Reino Unido, que comenzará el miércoles 1 de noviembre, Damini Satija, directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional, ha manifestado:
“La Cumbre Mundial de Seguridad de la IA de Reino Unido debe dar buen ejemplo en la carrera global para regular la inteligencia artificial, y no estar dominada por discursos especulativossobre las “amenazas existenciales” de estas tecnologías, en perjuicio de quienes hoy sufren las peores consecuencias de los sistemas de IA en materia de derechos humanos.
La semana pasada, el primer ministro británico, Rishi Sunak, promovió el uso de las herramientas de IA para‘actuar drásticamente contra quienes defraudan prestaciones sociales’ como un positivo avance tecnológico, haciendo caso omiso de la investigación que demuestra el carácter discriminatorio de estos sistemas y su frecuente uso indebido.
¿Dónde reconoce el gobierno estos daños que causa la IA, y dónde está su interés en regular y proteger a las comunidades másmarginadas? El programa de trabajo de esta cumbre sobre inteligencia artificialfavorece claramente los intereses del sector tecnológico, y esto es preocupante dado que el uso de tales tecnologías tiende a perjudicar a los grupos marginados.
Enun ensayo anterior con estas tecnologías enReino Unido, el Ministerio de Trabajo y Pensionestrató injustamente a personas discapacitadas, sometiéndolas a investigaciones por fraude en el cobro de prestaciones y sumiéndolas en un laberinto burocrático interminable, sin visos de transparencia ni justicia.
En 2021, la investigaciónde AmnistíaInternacional puso al descubierto las devastadoras consecuencias de un sistema de IA discriminatorio empleado por las autoridades tributarias neerlandesas para detectar solicitudes fraudulentas de prestaciones infantiles, y susefectos racializados sobre el derecho a la seguridad social. Cuatro años después,las personas afectadas siguen esperando justicia y rendición de cuentas.
Los Estados tienden a implementar sistemas de IA como ‘soluciones técnicas’ a problemas sociales, pero en la práctica suelen ser medidas de reducción de costes queagravan políticas que ya son punitivas para lapoblación marginada.
Los compromisos que se formulen en la cumbre no debencentrarse en discursos alarmistas sobrela IA, sino acercarnos más a una normativa que garantice que las medidas de protección que adoptamos frente a los daños causados por la IA se centran en los derechos humanos y las voces de las comunidades afectadas.”
Amnistía Internacional, como parte de una coalición de organizaciones de la sociedad civil encabezada por la Red Europea de Derechos Digitales (EDRi),viene pidiendo una regulación de la UE sobre la inteligencia artificial que proteja y promueva los derechos humanos, incluidos losderechos de las personas en movimiento.
