Mesa #1 Securitización de nuestras vidas en fronteras y ciudades

El pasado 10 de junio de 2021 organizamos la Jornada de Inteligencia Artificial y Derechos Humanos: Riesgos y Oportunidades junto con Lafede.cat y M4Social con el objetivo de compartir conocimiento sobre el impacto de la inteligencia artificial en el campo de la justicia social. Asimismo, teníamos la voluntad de que las organizaciones sociales incorporen la perspectiva digital a su trabajo de defensa de derechos, y reivindicar la participación activa de la ciudadanía en el diseño, implementación y evaluación de políticas digitales.

Para dar comienzo a la jornada contamos con una conversación entre Raquel Jorge Ricart (Fullbright Fellow, especialista en política digital y políticas públicas) y Montse Santolino (periodista y responsable de comunicación de Lafede.cat). 

La primera mesa de la jornada se centró en la securitización. Aunque se tenga la sensación de que es un problema que solo concierne a quienes transgreden las normas, los “malos ciudadanos”, lo cierto es que el concepto conlleva un grave riesgo de vulneración de derechos. Para debatir sobre ello invitamos a Ana Valdivia, investigadora en inteligencia artificial y ciencia de datos en King’s College London; a Youssef M.Ouled, periodista e investigador sobre consecuencias del racismo; a Nora Miralles, investigadora del Observatori de Drets Humans i Empreses a la Mediterrània (ODHE); y a Pepa Martínez, directora Lafede.cat 

¿Qué pasa con la securitización de nuestras vidas en fronteras y ciudades?

En lo que se refiere a la vigilancia y el impacto de la IA en contexto de migraciones, Ana Valdivia alertaba de las bases de datos en Europa que recogen información de las personas demandantes de asilo. “En ocasiones se da más credibilidad a una base de datos y a las coincidencias obtenidas por una IA que a las explicaciones del o la demandante”, recordaba. 

Precisamente, esta tecnología usada ampliamente en las fronteras europeas se ha convertido en “una capa más de la criminalización de la migración», comentaba Valdivia. “Es necesario conocer mejor el impacto que tienen estos sistemas y analizar las potenciales violaciones de Derechos Humanos en las que incurren con equipos multidisciplinares. Además, la industria privada del control de fronteras es opaca y no cuenta con un sistema de rendición de cuentas efectivo”, añadió. 

¿Se han reforzado las prácticas de racismo institucional?

“Se tiene que entender que el racismo está en el estado, las administraciones y en las instituciones. El enfoque antirracista en Inteligencia Artificial no se puede entender sin tener en cuenta las diferentes luchas y la falta de representatividad racializada en todos los espacios”, lamentaba Youssef M.Ouled. El periodista apuntó también que es fundamental que se aborden de forma directa las implicaciones del uso de la Inteligencia Artificial desde el antirracismo y que se pueda demostrar “de manera cuantitativa” el problema racista a través de datos oficiales que respalden las denuncias testimoniales. 

Ouled apuntaba, además, que “la vulneración del derecho a la vida, que tiene lugar en la política migratoria y en todas las aplicaciones que se hace en este contexto con Inteligencia Artificial, sirve para hacer crecer el negocio millonario de la securitización y el control migratorio que cada año aumenta su presupuesto en detrimento de los servicios públicos”.

¿Cómo se traduce la securitización en las ciudades españolas?

Nora Miralles hizo hincapié, durante su intervención, en las tecnologías basadas en Inteligencia Artificial que han “invadido el espacio público”, especialmente en las ciudades. Esto ha pasado con el propósito de aumentar el control masivo de la población bajo el pretexto de la seguridad ciudadana y la lucha contra la criminalidad. 

“Todo este control no respeta a las personas individuales y conduce a un sistema mucho más punitivo de los comportamientos individuales sin estar debidamente justificado en manifestaciones o protestas, establecimientos comerciales, institutos públicos…”, apuntaba Miralles. 

¡Mira el vídeo entero para saber si se pueden rastrear los datos sobre la población que se acumulan en bases de datos y qué puede hacer la sociedad civil al respecto!

Enlaces relacionados de interés comentados durante la mesa

¿Quieres recibir la agenda de Societat Oberta a tu correo?

Suscríbete