Imagen © Sides Imagery (Pexels)
Llega un nuevo resumen de las charlas organizadas por la Digital Freedom Fund (DFF) con motivo del ciclo Taking Digital Welfare Systems. En esta ocasión, nos centramos en la implantación de SyRI, acrónimo que responde a System Risk Indication o sistema indicador de riesgo, implantado en 2014 por el gobierno neerlandés. Por aquel entonces dicho gobierno cruzó información de diferentes bases de datos sobre la ciudadanía. El sistema señalaba a aquellas personas beneficiarias de ayudas sospechosas de fraude, muchas de ellas de barrios con fuerte presencia migrante. Pese a esta implementación, el sistema nunca fue capaz de detectar ningún caso fraudulento. En 2020, un tribunal dictaminó que la ley que sustentaba el SyRI violaba el derecho a la vida privada.
Para explicar su funcionamiento, desde la DFF invitaron a Merel Hendrickx, abogada en The Public Interest Litigation Project, y a Nahed Samour, investigadora de la Law & Society Institute en la Universidad de Humboldt de Berlín, que moderó la sesión.
El papel de los medios de comunicación
En el momento en que salió a la luz el SyRI resultó difícil denunciar su mal funcionamiento y la cobertura mediática era escasa e insuficiente. Además, los diferentes municipios crearon perfiles de los supuestos defraudadores sin que éstos lo supieran y podían ser investigados durante dos años.
Se pensó en organizar manifestaciones contra esta medida, pero debido a la complejidad del algoritmo fue difícil concienciar sobre lo que estaba sucediendo. No fue hasta 2019 que los medios de comunicación más grandes se hicieron eco del peligro que suponía el uso del SyRI. Para tener la repercusión necesaria, se necesitó el apoyo de dos abogados, la influencia de dos escritores, la implicación del sindicato más importante del país, la Confederación Neerlandesa de Sindicatos (NVV) y diversas entidades de la sociedad civil.
Los medios de comunicación ayudaron a exponer la problemática al conjunto de la población. Gracias a la popularidad de los escritores que se familiarizaron con el problema, se dio a conocer la falta de transparencia de este algoritmo. Además, la ayuda de los sindicatos fue esencial ya que eran quienes tenían acceso directo a las personas afectadas. Por ejemplo, a raíz de la mediatización, la ciudad de Rotterdam dejó de utilizar el sistema SyRI antes de que la propia litigación empezara.
¿Hasta qué punto fue útil el litigio para suspender el uso del algoritmo?
Hendrickx habló sobre las lecciones aprendidas a raíz del litigio. En primer lugar, indicó que lo que pudiera decir un juez sobre la implementación del sistema era más interesante y más poderoso que acudir a los medios de comunicación. El segundo punto que añadió era que fue difícil encontrar víctimas directas de SyRI a causa de la situación de vulnerabilidad en la que vivían estas personas. Ante este escenario, organizar una litigación en coalición fue la mejor solución. Sin embargo, considera que hoy en día las cosas han cambiado y si volviera a suceder un caso similar, optaría primero por crear un lobby o una campaña contra el algoritmo, además de organizar manifestaciones. Considera que ir a juicio no es una solución per se, ya que 50% del trabajo es de la justicia, pero el otro 50% es fruto del trabajo de las coaliciones con la sociedad civil.
Pese a todo lo logrado, Hendrickx explicó que todavía queda mucho trabajo por delante. El Ministerio de Asuntos Sociales está desarrollando en la actualidad una nueva versión, conocida con el nombre de Super SyRI. Se trata de un movimiento “sorprendente y contradictorio” según Hendrickx ya que, cuando el juzgado dio la razón a las personas afectadas, la secretaría de Estado del Ministerio de Trabajo y Asuntos Sociales decidió no apelar la decisión. Por lo tanto, estar en permanente contacto con las personas afectadas a través de sindicatos y organizaciones es importante para poder reaccionar con rapidez a futuras injusticias sociales.
Aquí tenéis disponible el vídeo correspondiente a esta jornada.
