Mesa #3 IA en administración pública

Inteligencia artificial en la administración pública. ¿Cómo regular y no discriminar?

Para terminar el primer día de la Jornada Inteligencia artificial y Derechos Humanos: ¿utopía o realidad? contamos con Lluís Torrens, del departamento de Innovación en el Área de Derechos Sociales del Ayuntamiento de Barcelona, y con Cyntia Menezes, abogada especialista en Derecho digital en Font Advocats. La sesión fue moderada por Karma Peiró, periodista especializada en tecnología. 

¿Qué políticas y éticas aplican las administraciones públicas respecto al uso de los algoritmos? ¿Habrá sellos de calidad para que la ciudadanía podamos confiar en estos algoritmos? ¿Cómo sabemos si se nos está aplicando un algoritmo de decisiones automatizadas? Con todas estas preguntas iniciaba Peiró el encuentro, poniendo sobre la mesa cuestiones abiertas sobre el uso de inteligencia artificial en el marco de la administración pública. 

En el Ayuntamiento de Barcelona, concretamente desde Derechos Sociales, se está usando la tecnología para atender a personas en situación vulnerable y de ello habló Lluís Torrens. «La tecnología permite capturar y analizar grandes volúmenes de datos y con Inteligencia Artificial sacamos algo más que estadísticas«. Concretamente, se está trabajando con cinco líneas de actuación que Torrens explicó detalladamente y que podéis ver en el vídeo. A grandes rasgos son estas:

  • Big Data Social: “cogemos datos de nuestros usuarios y los ponemos en un gran repositorio para operar los planes de actuación”
  • Simulador de ayudas: “los usamos para facilitar el acceso a la gente a saber de forma anónima y desestigmatizante si tienen derecho a ciertas ayudas”
  • Apps: “la vía para establecer nuevos canales de comunicación entre usuarios y profesionales”
  • Bots / Robots: “pensados para asistir a personas en sus consultas y colectivizar la información de interés general para evitar colas o tener a gente respondiendo las mismas preguntas”Inteligencia colectiva: “preferimos este término porque todo lo que hay detrás de la inteligencia artificial se ha creado con años de experiencia de profesionales”

Precisamente sobre este último término de inteligencia colectiva giraba el resto de la presentación que hizo Torrens y que os animamos a escuchar al completo. 

Legislación

Por su parte, Cyntia Menezes aportó reflexiones clave en cuanto a la legislación o regulación por parte de gobiernos y administraciones públicas sobre tecnología y decisiones automatizadas. Menezes empezó su intervención advirtiendo que quizás frustraría las expectativas de Peiró, Torrens y las personas asistentes en cuanto a las respuestas que puede dar el Derecho sobre Inteligencia Artificial. «Todavía hay poca regulación sobre Inteligencia Artificial y decisiones automatizadas. Hay mucho esfuerzo de softlaw (recomendaciones, guías, estudios, códigos éticos…) pero no tiene aplicabilidad legal», lamenta Menezes. 

De entre todas las regulaciones a nivel mundial, europeo y español que repasó Menezes, la abogada quiso destacar un concepto por encima de todo. El diseño de sistemas de Inteligencia Artificial que incorporen el “razonamiento ético”. “Hablamos mucho de privacidad pero hay que estar atentos porque cuando hablamos de Inteligencia Artificial en los universos jurídicos este concepto va mucho más allá de solamente la protección de datos”, advierte Menezes. “La Inteligencia Artificial no funciona sin datos, ¡son su combustible! 

Menezes repasó varios campos en los cuales el uso de Inteligencia Artificial puede tener efectos importantes remarcando que su mal uso puede constituir un “problema global” e impedir que países todavía en desarrollo no alcancen la autonomía tecnológica. Si queréis escuchar cuáles son, según Menezes, los aspectos cruciales a tener en cuenta a la hora de usar la Inteligencia Artificial por parte de los gobiernos y cuáles son los retos que nos esperan como sociedad civil, ¡no os perdáis el vídeo completo!

A continuación, algunos enlaces comentados durante el encuentro:

¿Quieres recibir la agenda de Societat Oberta a tu correo?

Suscríbete