Imatge © Ivan Samkov de Pexels
La Digital Freedom Fund, a través del cicle Taking Digital Welfare Systems, ha organitzat una trobada entre Kevin De Liban, Director d’Advocacy al Legal Aid of Arkansas, i Shannon Vallor, titular de la Càtedra Baillie Gifford d’Ètica de Dades i Intel·ligència Artificial en el Edinburgh Futures Institute de la Universitat d’Edimburg. Aquesta nova conversa està centrada en el sistema d’ajudes a les cures en l’estat d’Arkansas, al sud dels Estats Units.
El programa Medicaid brinda serveis a domicili a les persones dependents que el necessiten. És habitual que aquestes persones siguin visitades per un avaluador que les entrevista per a conèixer i decidir la freqüència amb la qual necessitaran que algú les cuidi. L’any 2016, l’estat d’Arkansas va aprovar la implementació d’un algorisme que determinava, a partir d’una avaluació prèvia, el nombre d’hores que cada beneficiari havia de percebre. A conseqüència d’aquest criteri nou, moltes persones dependents van veure reduïdes dràsticament les seves ajudes.
Arguments per a invalidar l’algorisme
A través d’unes preguntes molt senzilles, l’algorisme era capaç de classificar a cadascun dels pacients i a partir d’aquí decidir quantes hores d’assistència se li atorgaven a cadascun d’ells. Aquesta nova forma d’avaluació va ser posada en marxa sense el coneixement dels seus beneficiaris i no hi havia manera d’entendre quins factors influïen en les decisions. Una vegada coneguts els nombrosos testimoniatges que confirmaven aquesta situació, es va decidir portar a judici aquest sistema informatitzat. Va ser llavors quan es va confirmar la presència d’un algorisme matemàtic que decidia, sobre la base de 60 paràmetres, l’atenció domiciliària que havien de rebre les persones dependents.
Segons Kevin De Liban, els serveis socials s’han instrumentalitzat sota la idea que la digitalització incrementarà l’eficiència de les ajudes prestades, quan en realitat limita el pressupost d’aquests departaments en època d’austeritat i retallades. En aquest cas, d’una banda, es va racionalitzar l’assistència sanitària i, d’una altra, va sorgir el desig de detectar aquells casos que podien ser fraudulents. Amb l’automatització de tasques, s’oferien menys hores d’assistència a la llar, quan en realitat el que hauria d’haver succeït és que s’incrementessin les hores de supervisió de l’automatització.
En 2017, el Tribunal Suprem d’Arkansas, gràcies a la demanda interposada pel Legal Aid, va invalidar l’algorisme en considerar que les persones afectades no havien estat avisades de la seva implantació i que va haver-hi poc temps per a qüestionar el seu funcionament. D’altra banda, des del Legal Aid es va arribar a la conclusió que s’havien de fer més activitats educatives respecte a aquest tema, amb l’objectiu que les persones que depenien d’aquesta mena d’assistència mèdica coneguessin com funcionen els sistemes automatitzats, per què s’utilitzen i amb quins instruments compten per a lluitar contra ells.
El paper de la societat civil en aquesta problemàtica
De Liban també va comentar que va veure que les persones mai havien estat empoderades per a qüestionar l’algorisme que estava decidint el seu benestar. No es va testar prèviament per a saber si funcionava correctament i a més, resultava bastant xocant que a cap treballador de l’agència del Departament de Sanitat i Serveis Humans li importés que aquest sistema fos injust.
De Liban considera important trencar les barreres a la participació ja que, a llarg termini, una major educació pública, els testimoniatges de les persones afectades i l’ajuda per a organitzar-se seran clau per a una millor defensa dels seus drets. De fet, el que va fer que aquesta litigació tingués èxit és que va haver-hi una bona alineació entre els diferents actors. La ràpida mobilització i organització de les persones va ajudar al fet que la situació es pogués revertir.
A més, després de la sentència judicial, alguns treballadors del Departament de Sanitat i Serveis Humans van començar a qüestionar-se com funcionen els algorismes i a fer preguntes sobre aquests abans de la seva introducció. D’altra banda, va animar a que els treballadors de l’administració fessin preguntes als proveïdors durant les presentacions que fan dels seus productes en reunions i conferències.
Sens dubte, la ràpida detecció d’aquestes desigualtats juntament amb l’acció d’organitzacions com el Legal Aid van ajudar a obtenir una resposta clara del Tribunal Suprem, fent d’aquesta victòria un exemple per a tot el país.
Aquí teniu disponible aquesta coversa entre Kevin De Liban i Shannon Vallor.
