Imatge © Sides Imagery (Pexels)
Arriba un nou resum de les xerrades organitzades per la Digital Freedom Fund (DFF) amb motiu del cicle Taking Digital Welfare Systems. En aquesta ocasió, ens centrem en la implantació de SyRI, acrònim de System Risk Indication o sistema indicador de risc, implantat l’any 2014 pel govern neerlandès. En aquells dies aquest govern va creuar informació de diferents bases de dades sobre la ciutadania. El sistema assenyalava persones beneficiàries d’ajudes que fossin sospitoses de frau, moltes d’elles de barris amb forta presència migrant. Malgrat aquesta implementació, el sistema mai va ser capaç de detectar cap cas fraudulent. L’any 2020, un tribunal va dictaminar que la llei que sustentava el SyRI violava el dret a la vida privada.
Per a explicar el seu funcionament, des de la DFF van convidar a Merel Hendrickx, advocada en The Public Interest Litigation Project, i a Nahed Samour, investigadora de la Law & Society Institute en la Universitat de Humboldt de Berlín, que va moderar la sessió.
El paper dels mitjans de comunicació
En el moment en què va sortir a la llum el SyRI va resultar difícil denunciar el seu mal funcionament i la cobertura mediàtica era escassa i insuficient. A més, els diferents municipis van crear perfils dels suposats defraudadors sense que aquests ho sabessin i podien ser investigats durant dos anys.
Es va pensar a organitzar manifestacions contra aquesta mesura, però a causa de la complexitat de l’algorisme va ser difícil conscienciar sobre el que estava succeint. No va ser fins a 2019 que els mitjans de comunicació més grans es van fer ressò del perill que suposava l’ús del SyRI. Per a tenir la repercussió necessària, es va necessitar el suport de dos advocats, la influència de dos escriptors, la implicació del sindicat més important del país, la Confederació Neerlandesa de Sindicats (NVV), i diverses entitats de la societat civil.
Els mitjans de comunicació van ajudar a exposar la problemàtica al conjunt de la població. Gràcies a la popularitat dels escriptors que es van familiaritzar amb el problema, es va donar a conèixer la falta de transparència d’aquest algorisme. A més, l’ajuda dels sindicats va ser essencial ja que eren els qui tenien accés directe a les persones afectades. Per exemple, arran de la mediatització, la ciutat de Rotterdam va deixar d’utilitzar el sistema SyRI abans que la pròpia litigació comencés.
Fins a quin punt va ser útil el litigi per a suspendre l’ús de l’algorisme?
Hendrickx va parlar sobre les lliçons apreses arran del litigi. En primer lloc, va indicar que el que pogués dir un jutge sobre la implementació del sistema era més interessant i més poderós que acudir als mitjans de comunicació. El segon punt que va afegir era que va ser difícil trobar víctimes directes de SyRI a causa de la situació de vulnerabilitat en la qual vivien aquestes persones. Davant aquest escenari, organitzar una litigació en coalició va ser la millor solució. No obstant això, considera que avui dia les coses han canviat i si tornés a succeir un cas similar, optaria primer per crear un lobby o una campanya contra l’algorisme, a més d’organitzar manifestacions. Considera que anar a judici no és una solució per se, ja que 50% del treball és de la justícia, però l’altre 50% és fruit del treball de les coalicions amb la societat civil.
Malgrat tot, Hendrickx va explicar que encara queda molta feina per davant. El Ministeri d’Assumptes Socials està desenvolupant en l’actualitat una nova versió coneguda amb el nom de Super SyRI. Es tracta d’un moviment “sorprenent i contradictori” segons Hendrickx ja que, quan el jutjat va donar la raó a les persones afectades, la secretaria d’Estat del Ministeri de Treball i Assumptes Socials va decidir no apel·lar la decisió. Per tant, estar en permanent contacte amb les persones afectades a través de sindicats i organitzacions és important per a poder reaccionar amb rapidesa a futures injustícies socials.
Aquí teniu disponible el vídeo corresponent a aquesta jornada.
