Así fue el paso de Virginia Eubanks por Barcelona

Justicia algorítmica, sistemas de decisiones automatizados, derechos humanos y desigualdades. Durante su paso por Barcelona en octubre, la escritora, politóloga y profesora estadounidense Virginia Eubanks participó en diferentes encuentros en los que  remarcó que no existe la neutralidad algorítmica e insistió en que hay que involucrar a las personas afectadas en las luchas contra las tecnologías discriminatorias.

Eubanks se reunió con activistas en el Ateneu del Raval y también ofreció una charla abierta al público en el Canòdrom – Ateneu per la Innovació. Ambos encuentros fueron co-organizados por el Espai Societat Oberta junto con Algorights y el Canòdrom, y en ellos Eubanks compartió sus investigaciones y conclusiones acerca de los sistemas automatizados en materia de derechos sociales

Historias personales para acercar realidades mundiales

Eubanks cree en las historias personales para acercar su investigación a un público heterogéneo. De hecho, su libro ‘La automatización de la desigualdad’ recopila varias de estas historias. En la conversación que mantuvo con Jordi Vaquer (Open Society Foundations), Lina María González (Algorights) y Oyidiya Oji Palino (Catàrsia), Eubanks fue desgranando algunas de estas historias y destacó qué tenían éstas en común. Además, la intervención de Virginia Eubanks en el Canòdrom dejó varios titulares y aquí compartimos cuatro que nos parecen clave para entender su trabajo:

  • La desigualdad es estructural, no una cuestión individual 
  • Se deben investigar los sistemas automatizados de la administración 
  • Hay que involucrar a la personas afectadas en las luchas 
  • A veces las soluciones vienen de las personas y movimientos sociales

Uno de los puntos fundamentales de la investigación de Eubanks y de su discurso es la idea de imparcialidad, de los sesgos. A menudo la tecnología y los sistemas automatizados son presentados como neutrales, y los algoritmos aprenden a tomar decisiones sesgadas que se convierten en “permanentes y legitimadas”. Sobre ello quiso preguntarle Jordi Vaquer haciendo hincapié también en cómo la población excluida en materia de vivienda o trabajo también lo está cuando hablamos de acceso a la tecnología.

Violencias y red global

“Hay violencias invisibles por parte de las administraciones y sus sistemas tecnológicos. ¿Cómo demostramos que la automatización amplifica el sufrimiento de las personas a las cuales se supone que quieren ayudar?, preguntó Oyidiya Oji Palino, miembro del colectivo de asiáticodescentedes Catàrsia.  “Violencia económica es violencia”, recordaba Eubanks. “Hay que pensar que las personas en situación de exclusión social tienen voz propia y cosas a decir y aportar para encontrar soluciones, más allá de un algoritmo”, añadió en respuesta a Oji Palino.

Como voz del colectivo Algorights, Lina María González quiso preguntar a Eubanks cómo imagina ella que se puede crear una red global en la que la sociedad civil tenga voz y se proteja de los sesgos y desigualdades provocadas por los sistemas automatizados que se van repitiendo en diferentes países. A esta cuestión Eubanks respondió que por suerte se está encontrando cada vez más conversaciones alrededor de la injusticia algorítmica. A pesar de ello, la autora lamenta que echa de menos dos aspectos en esta lucha: más presencia de las voces de las personas afectadas y más interés en conversaciones globales para poner en común problemáticas sobre tecnología y justicia social alrededor del mundo. 

Para terminar, Eubanks recordó que debemos vigilar con el Maths Washing, ya que existe cierta “tendencia a no querer entender de qué van los sistemas automatizados porque nos han vendido el cuento de que es imposible de entender y no lo es tanto. Espero que la gente tenga interés en aprender y defender sus derechos”.

Encuentro informal y puesta en común

En la reunión a puerta cerrada con activistas, la autora de ‘La automatización de la desigualdad’ compartió con el grupo cuáles habían sido sus motivaciones para escribir el libro. “Intento explicar los problemas de la tecnología a los que nos enfrentamos y los problemas a los que hacen frente las personas más afectadas. También intento comprender los sistemas y su comportamiento, contar historias sobre el terreno y hacer entender a la gente que el futuro no está tan lejos y que la tecnología ya está afectando a nuestras vidas”, contaba Eubanks. 

La escritora lamentó también que la tecnología reciba “demasiada atención” y se esté dejando de lado los diferentes contextos sociales. Además, Eubanks advirtió al grupo de activistas con las que se reunió que ha podido observar patrones de comportamiento entre EUA y España. “Creo que eventos como el de hoy son realmente importantes para compartir lo que sucede y entender otros casos. También porque algunos sistemas que ya se utilizan en otros países se implementarán en otros países tarde o temprano. Tenemos que identificar lo que ocurre en nuestras comunidades, aprender cómo nos afecta y cómo combatirlo”, añadió.

Eubanks enmarcó la visita y sus charlas en el contexto del nuevo proyecto en el cual está trabajando. Se trata de recopilar nuevas historias relacionadas con las decisiones automatizadas y los servicios sociales. “Me interesa especialmente todo lo que tenga que ver con el ingreso mínimo vital porque en EUA piensan que esto podría resolver todos los problemas y aquí estoy viendo que podría no ser cierto”, confesaba. “Estoy recopilando historias en 12 paísesy debo advertir que ninguno de los sistemas de toma de decisiones es neutral”, concluyó Eubanks. 

¿Quieres recibir la agenda de Societat Oberta a tu correo?

Suscríbete