¿Cómo hackea la sociedad civil las desigualdades del sistema?

En estos últimos años el desarrollo de sistemas de inteligencia artificial y automatización ha aumentado, pero aún así es una cuestión que se le resiste a muchas organizaciones debido a una cultura digital precaria y la mistificación del relato de la IA. El pasado mes de mayo co-organizamos las JornadasDAR Democracia, Algoritmos y Resistencias con Algorace, Algorights y Lafede.cat. Durante tres días nos reunimos en encuentros presenciales y online para trabajar por una inteligencia artificial más democrática, decolonial y respetuosa con los derechos humanos.

 En esta mesa, moderada por Montse Santolino de Lafede.cat, se presentaron algunas experiencias e iniciativas de organizaciones y colectivos que han identificado la violación de derechos humanos relacionada con las tecnologías. 

Alberto Álvarez (Tito) – Observatorio Trabajo Algoritmo y Sociedad

Desde Élite Taxi se rodearon de varios expertos en inteligencia artificial para identificar qué tipo de plataformas de contratación de taxis realizan prácticas abusivas. Han realizado algunos estudios ya al respecto y han creado un algoritmo que vigila los precios de las carreras en la Costa del Sol y Madrid. Según Álvarez, “nos encontramos en la era del fascismo digital”, y reconoce que además de abogados para defender los derechos ahora hacen falta perfiles informáticos para observar y detectar irregularidades algorítmicas. Álvarez añadió además que “la administración va muy lenta y la tecnología va muy rápida”, por lo que denunció la falta de apoyo económico y reclamó la creación de una agencia de regulación y también de redes para avanzar en la lucha por los derechos de los taxistas incluso a nivel europeo. 

Simona Levi – XNET

Levi lamentó que el software libre no pueda competir en usabilidad con las plataformas de las big tech. “Hay una dejadez de funciones por parte de las instituciones ya que no invierten en código ni regulan el uso de estas plataformas en el ámbito digital”. 

“Las instituciones deben obligarse a ser digitalizadas por códigos públicos y abiertos para crear trabajo y que sean auditables”, insistió Levi. En este sentido, compartió los casos de escuelas en Cataluña que están dentro de una prueba piloto en la que hacen uso de software libre en sus aulas.

Youssef M. Ouled – Fronteras Digitales

“Hay que dejar de hablar de fronteras inteligentes y hablar de fronteras digitales”, apuntaba Ouled. En diciembre de 2021, a través de los medios de comunicación se supo que el gobierno español quería implementar fronteras digitales en Ceuta y Melilla mediante reconocimiento facial y huellas digitales y con un presupuesto de más de 220 millones de euros, según Fronteras Digitales. Ante esto, más de 80 organizaciones firmaron un manifiesto en el que señalaron “la violación de varios derechos humanos y que esta automatización refuerza la lógica racial y colonial de la UE”. 

Ouled lamentó que, a pesar de las peticiones de las organizaciones y algunos partidos de izquierdas de transparencia en estos sistemas, este tipo de iniciativas no están siendo suficientes para paliar este tipo de prácticas que vulneran los derechos humanos en frontera.

¿Qué le piden a la Agencia Estatal de Supervisión de Inteligencia Artificial (AESIA)?

  • Alberto Álvarez: Mucho control, que no se pueda “traficar con los datos”
  • Simona Levi: Aumentar la participación y que los parlamentos sean abiertos a mayor número de personas posible. Transparencia y auditable cuando los fondos que se reciben para su creación son públicos. 
  • Youssef M.Ouled: La participación activa de la sociedad civil, que realmente audite y ponga su foco en el uso de fronteras digitales en la frontera sur.

¡Lee todos los resúmenes de las #JornadasDAR aquí!

¿Quieres recibir la agenda de Societat Oberta a tu correo?

Suscríbete