Per què i com involucrar les comunitats més afectades per la Intel·ligència Artificial?

Una taula organitzada a les #JornadasDAR amb Safia Oulmane de GHETT’UP, Anna Colom de Democratic Society i Judith Membrives i Llorens del grup de treball de IA a Barcelona i del col·lectiu Algorights. Va estar moderada pel periodista Moha Gerehou. En la seva introducció, Gerehou va compartir la seva experiència amb els filtres d’Instagram i com es va adonar que per ser una persona negra aquests filtres no cobrien completament la seva cara com sí que passa amb persones blanques.

A més, va esmentar l’article Machine Bias de ProPublica sobre discriminació algorítmica per raó de color de pell i que li va fer entendre el “racisme transformat que hi ha en la tecnologia. Cal oblidar-se de la innocència de la tecnologia i entendre com s’articulen les discriminacions”.

Durant la conversa, Safia Oulmane va recalcar la importància de treballar en comunitat i trobar un equip amb el qual lluitar i no desistir. “Cal seguir, seguir i seguir. La generació més jove es fixa en nosaltres i podem ser un exemple per a una tecnologia més diversa i inclusiva”, va dir.

Anna Colom va compartir el concepte de “loteria cívica” que s’usa en democràcia deliberativa i consisteix en la participació en assemblees d’una mostra representativa de la població (barri, ciutat, país). Suposadament aquest sistema oferiria les mateixes oportunitats a tothom de participar i donar la seva opinió en processos ja que es trien persones a l’atzar d’unes llistes, però Colom posa en dubte la inclusivitat real d’aquest sistema.

Pel seu costat, Judith Membrives i Llorens va defensar la idea d’organització de base perquè són “els qui han de defensar els drets a l’hora de legislar l’automatització”. Així mateix va afegir que el matís seria que es convidi les organitzacions i la societat civil a debatre si volen que s’automatitzin els serveis públics en lloc de convidar-les quan aquesta decisió ja s’ha pres.

En relació amb això i més específicament davant del dubte de com evitar que les polítiques públiques ens retornin discriminació, Colom va respondre: “S’han d’integrar els principis de justícia en la implementació d’aquestes polítiques i que hi hagi un espai de seguiment“.

Quan se li pregunta a Oulmane sobre la relació entre tecnologia i policia, sota la seva experiència a GHETT’UP, reconeix que aquesta combinació “no farà més que danyar les nostres comunitats i que cal prendre mesures per a evitar-ho”.

Membrives i Llorens va fer èmfasi en el fet que a la tecnologia ha d’haver-hi diversitat, és una cosa imprescindible perquè hi hagi representació. I també va afegir que la formació és molt important per a entendre les implicacions de la IA, però també és imprescindible entendre els marcs narratius.

Llegeix tots els resums de les #JornadasDAR aquí!

Vols rebre l'agenda de Societat Oberta al teu correu?

Subscriu-te