¿Cómo fortalecer la participación de la sociedad civil en el diseño de sistemas de decisiones automatizadas?
La última sesión de la jornada Inteligencia Artificial y Derechos Humanos: utopía o realidad la dedicamos a pensar cómo se puede fortalecer la participación de la sociedad civil en el diseño de sistemas de decisiones automatizadas. Lo hicimos dividiéndonos en tres grupos de trabajo y recogiendo las reflexiones grupales al final.
Mirada interseccional de IA y sus impactos – Pepa Martínez (Lafede.cat)
¿Cómo conseguir que la Inteligencia Artificial y su uso sea interseccional? Este grupo de trabajo sacó varias conclusiones al respecto, principalmente basadas en el esfuerzo de los varios actores que intervienen en la creación y divulgación de la IA. Algunas de las cuestiones que se comentaron:
- se dijo que los grupos no familiarizados con estos sistemas complejos tenían que intentar superar los miedos a la tecnología
- se pidió reconocer el esfuerzo para encontrar lenguajes sociológicos y comprensibles que se está haciendo desde algunos sectores especializados
- se comentó la voluntad de encontrar sinergias entre actores del sector social y del científico
- se instó a encontrar foros de participación en los cuales fuera fácil entrar y opinar, y que fueran principalmente lúdicos: formato hackaton, asignaturas tecnológicas en formaciones sociológicas, etc.
Construcción de ecosistemas y comunidad – Laura Señán (Fundación AVINA)
¿Cómo entendemos la tecnología para una aplicación cívica y de comunidad? En este grupo, las personas que participaron centraron sus aportaciones en los siguientes temas:
- Que se garantice el acceso al código abierto, fomentar la inteligencia colectiva y repensar la territorialidad de las iniciativas
- Asegurar la accesibilidad a internet y romper la brecha digital
- Fomentar la formación en ética, en información crítica y aplicabilidad directa de la tecnología
- Profundizar en la participación y co-diseño de estrategias comunitarias: cómo se construye comunidad a través de un proceso participativo
Además, se comentó la necesidad de encontrar un modelo que repiense la representatividad y cuotas de participación en las iniciativas comunitarias, que sean modelos y proyectos multidisciplinares y que se apueste por la multisectorialidad.
Gobernanza y participación – Jordi Serratosa (M4Social)
En este grupo de trabajo se hicieron muchísimas aportaciones sobre cuáles son los retos a abordar en materia de gobernanza y participación ciudadana. Además, surgieron muchas dudas sobre si hace falta crear más instituciones o es mejor reformular las ya existentes.
Las personas que trabajaron en este grupo estuvieron de acuerdo en que, en general, el mayor reto es conseguir más cultura de transparencia en los gobiernos y administraciones públicas. Tanto en el modelo analógico como en el digital. También se abordaron cuestiones como el acceso a la educación como herramienta para empoderar y trabajar a partir de ahí de forma transversal. Y se hizo hincapié en que hay que esforzarse y encontrar la manera de facilitar procesos participativos en un ámbito tan técnico y específico como es la Inteligencia Artificial.
“Ser transparente no debería ser incompatible con tratar con aspectos confidenciales”, comentaba Jordi Serratosa. Como conclusión, el grupo coincidió en que hay que crear alianzas para transversalizar conocimientos y que los usuarios pueden aportar datos, dar feedback pero también pueden ser generadores de datos y hacer micro tareas de auditorías en estos sistemas.
Conclusiones finales de los grupos de trabajo
- Hace falta una mayor transparencia en los procesos de decisión
- Hay que avanzar hacia un ecosistema de tecnología cívica
- Se debe fomentar el uso y conocimiento de código abierto
- Hay que tener acceso libre a la información
- Se deberían crear más hubs regionales
- Hay que romper las barreras digitales
- Debemos construir un repositorio para conocer políticas y actores decisivos
- Habría que incluir a más colectivos en los debates
- Hay que concienciar sobre los usos de la tecnología
- Se debe planificar una agenda propia desde los movimientos y la sociedad civil
