¿Por qué y cómo involucrar a las comunidades más afectadas por la Inteligencia Artificial?

Una mesa de las #JornadasDAR con Safia Oulmane de GHETT’UP,  Anna Colom de Democratic Society y Judith Membrives i Llorens del grupo de trabajo de IA en Barcelona y del colectivo Algorights.  Estuvo moderada por el periodista Moha Gerehou. En su introducción, Gerehou compartió su experiencia con los filtros de Instagram y cómo se dio cuenta que por ser una persona negra estos filtros no cubrían completamente su cara como sí pasa con personas blancas. 

Además, mencionó el artículo Machine Bias de ProPublica sobre discriminación algorítmica por razón de color de piel y que le hizo entender el “racismo transformado que hay en la tecnología. Hay que olvidarse de la inocencia de la tecnología y entender cómo se articulan las discriminaciones”.

Durante la conversación, Safia Oulmane recalcó la importancia de trabajar en comunidad y encontrar un equipo con el que luchar y no desistir. “Hay que seguir, seguir y seguir. La generación más joven se fija en nosotros y podemos ser un ejemplo para una tecnología más diversa e inclusiva», dijo. 

Anna Colom compartió el concepto de “lotería cívica” que se usa en democracia deliberativa y consiste en la participación en asambleas de una muestra representativa de la población (barrio, ciudad, país). Supuestamente este sistema ofrecería las mismas oportunidades a todo el mundo de participar y dar su opinión en procesos ya que se escogen personas al azar de unas listas pero Colom pone en duda la inclusividad real de este sistema. 

Por su lado, Judith Membrives i Llorens defendió la idea de organización de base porque son “quienes deben defender los derechos a la hora de legislar la automatización”. Asimismo añadió que el matiz sería que se invite a las organizaciones y a la sociedad civil a debatir si quieren que se automaticen los servicios públicos en lugar de invitarlas cuando esta decisión ya se ha tomado. 

En relación con esto y más específicamente delante de la duda de cómo evitar que las políticas públicas nos devuelvan discriminación, Colom respondió: «Se deben integrar los principios de justicia en la implementación de estas políticas y que haya un espacio de seguimiento«.

Cuando se le pregunta a Oulmane sobre la relación entre tecnología y policía, bajo su experiencia en GHETT’UP, reconoce que esta combinación “no hará más que dañar a nuestras comunidades y que hay que tomar medidas para evitarlo”. 

Membrives i Llorens hizo énfasis en que en la tecnología debe haber diversidad, es algo imprescindible para que haya representación. Y también añadió que la formación es muy importante para entender las implicaciones de la IA, pero también es imprescindible entender los marcos narrativos.

¡Lee todos los resúmenes de lass #JornadasDAR aquí!

¿Quieres recibir la agenda de Societat Oberta a tu correo?

Suscríbete