Un algoritme dificulta la reinserció dels presos vulnerables a Catalunya

*Omar és un nom fictici. El seu nom s'ha canviat en aquest reportatge per protegir la seva identitat real.

Al juny de 2025 la junta de tractament de la presó en la qual Omar compleix la seva condemna va demanar al jutge de vigilància penitenciària que li concedís el tercer grau. Ho va fer a través d'un informe amb informació desactualitzada. Però amb el convenciment que Omar, a la presó des de 2011 i una evolució positiva entre reixes, estava llest per passar bona part del seu temps en llibertat.

En l'escrit els funcionaris van incloure una paraula, RisCanvi , al costat d'un adverbi: alt. Una senyal, segons els codis establerts en el món penitenciari català, que existia un risc plausible entorn d'Omar. Un risc que en trepitjar el carrer cometés un nou delicte o fugís sense haver completat la seva condemna.

Aquest pronòstic no provenia d'una persona, sinó d'una màquina. RisCanvi és un programa informàtic que la Generalitat va introduir a les seves presons el 2010 i que des de llavors avalua de forma periòdica totes les persones privades de llibertat a Catalunya. La versió actual d'aquest programari mesura cinc tipus de riscos, a través del mateix nombre d'algoritmes: reincidència general, reincidència violenta, trencament de condemna, violència autodirigida i violència contra altres dins de presó.

Dissenyat originalment com a part d'un protocol per a la gestió interna en els centres, avui els resultats de RisCanvi són utilitzats de forma intensiva també en l'àmbit judicial. Per part dels jutges i els fiscals que decideixen si presos com Omar poden accedir a beneficis penitenciaris en la fase final de la condemna, una part fonamental en el seu procés de rehabilitació social.

Aquest tipus d'ús, documentat per Público en aquesta investigació a través d'informació i testimonis inèdits, no tindria les garanties que la nova llei europea exigeix per algoritmes i intel·ligència artificial (IA) en àrees sensibles, com les presons i la justícia. També aniria en contra del consens científic sobre com usar aquest tipus de sistemes de suport a una decisió humana.

El protocol RisCanvi, actualment en procés d'actualització pel Departament de Justícia de l'Executiu català, porta anys en el punt de mira d'organitzacions de defensa dels drets dels presos i d'actors de la societat civil que promouen un ús responsable de la tecnologia. Fins ara, el debat s'havia centrat en la idoneïtat o no d'usar un algoritme predictiu amb una alta taxa d'errors en una àrea tan delicada. També en l'opacitat que aquest sistema ha arrossegat durant anys.

Les troballes d'aquesta investigació mostren però una altra línia preocupant. La forma en què jutges i fiscals fan servir els resultats de RisCanvi estaria impactant negativament en els drets dels presos més vulnerables que avui compleixen condemna a Catalunya.

"A la presó si vols avançar no et deixen"

El jutge de Barcelona que a l'agost va rebre la petició de tercer grau per a Omar va donar el seu vistiplau al novembre. No obstant això, cinc dies després el fiscal es va oposar en veure que el RisCanvi de l'intern reflectia un risc alt, una postura a la qual finalment es va acollir el magistrat encarregat del seu expedient, que va rebutjar la sol·licitud.

"Ja comencem amb el mateix!". Omar recorda avui com va reaccionar en assabentar-se que el risc assignat per aquest sistema de nou li complicava les coses. Aquest mateix argument en contra, un RisCanvi alt, l'havia usat dos anys enrere també per oposar-se el jutge que va rebre la seva primera sol·licitud de permís de més de 72 hores.

Relacionat amb aquest tema

Les tortures a la comissaria de Via Laietana topen amb l'amnistia del 1977 tot i la llei de memòria

ACN

"A la presó si vols avançar no et deixen, la veritat", es lamenta aquest home de somriure fàcil en una sala de la Fundació Marianao, una entitat de Sant Boi de Llobregat que dona suport a interns amb pocs recursos. Una jurista i una educadora d'aquesta fundació, també presents a la sala, acompanyen l'Omar des de fa anys. Amb l'ajuda de totes dues, l'Omar ha presentat un recurs d'apel·lació davant l'Audiència Provincial de Barcelona encara pendent de resolució.

El cas d'aquest reclús a la presó des del 2011 i amb una evolució exemplar entre reixes exemplifica la manera com alguns actors judicials a Catalunya fan servir avui els nivells de risc assignats per RisCanvi. I com aquesta utilització condiciona que els interns accedeixin a una llibertat condicional, una progressió de grau o a permisos de diversos dies una vegada han complert una quarta part de la seva condemna, tal com estableix la llei penitenciària.

RisCanvi, igual que altres sistemes predictius semblants -l'algoritme de VioGén per combatre la violència masclista és el cas més conegut a Espanya-, es va crear fa una dècada i mitja amb un protocol associat. A les presons catalanes aquest programari està integrat en el dia a dia dels funcionaris i els seus resultats els ajuden, per exemple, a decidir quins programes de rehabilitació han de seguir els interns o quan és adequat que surtin de permís. Aquests professionals reben a més una formació específica abans de començar a utilitzar el programa, segons estableix el manual d'aplicació del protocol de la mateixa Generalitat.

"L'administració penitenciària a Catalunya ha fet un esforç molt gran perquè això tingui una coherència i estigui dins d'un sistema, perquè tingui un sentit", assenyala a Público Lorena Alemán Aróstegui. Aquesta jurista i doctora en Dret penal per la Universitat Pública de Navarra, que va exercir com a lletrada a Catalunya durant diversos anys, és autora de l'únic treball independent sobre com RisCanvi influeix en les decisions judicials.

Relacionat amb aquest tema

El Consell d'Europa requereix a la Generalitat la fi de les contencions mecàniques a les presons

Públic

El seu interès en el tema va començar el 2021 a partir d'una experiència personal. Un jutge de Lleida va denegar llavors un permís de sortida, que comptava amb l'aprovació de la junta de tractament, a un client que complia condemna a la presó de Mas d'Enric. Alemán Aróstegui va elevar llavors el cas a l'Audiència Provincial de Tarragona a través d'un recurs. De poc va servir. El magistrat va validar la posició del jutge de vigilància “perquè hi havia resultats de risc alt i mitjà en RisCanvi; una cosa que ja havia al·legat el ministeri fiscal”, rememora.

"RisCanvi és un instrument intern de l'administració", explica avui aquesta jurista que va dedicar la seva tesi doctoral a aprofundir en aquest espinós assumpte. "En l'àmbit administratiu [els funcionaris] estan condicionats per l'article 6 del reglament penitenciari”, que prohibeix la presa de decisions basades en eines automatitzades. “Però és que en l'àmbit judicial no hi ha res, falten normes. Hi ha moltíssima discrecionalitat en la presa de decisions", esgrimeix Alemán Arostegui en conversa amb Público . També hi ha “molt marge perquè es provin coses”, afegeix.

El RisCanvi en seu judicial

Les més de quinze entrevistes a lletrats i altres actors judicials fetes per a aquesta investigació corroboren les tesis d'Alemán Arostegui. I ofereixen a més altres claus rellevants. "El RisCanvi té molta importància a nivell intern i això nosaltres sí que ho considerem com una eina molt potent", analitza Montse Pijoan, lletrada del despatx barceloní de Bataller Advocats. "Però quan passem a l'expedient judicial veiem molta disparitat respecte a quina és la concepció de RisCanvi o quin és el seu abast", apunta.

Tot i que la postura oficial de la Generalitat és que els resultats d'aquests algoritmes són usats només pels professionals de presons, la realitat és diferent. Quan el propi intern o la junta de tractament sol·licita un benefici penitenciari, el responsable d'aquest òrgan col·legiat envia als jutjats un informe que en gairebé tots els casos inclou els riscos assignats per RisCanvi. Una informació que a diferència del que passa amb els tècnics de la junta arriba sense el degut context a seu judicial, expliquen les fonts consultades.

"En alguns jutjats veiem que la rellevància del RisCanvi és pràcticament determinant. Si veuen un RisCanvi alt [a l'expedient], ja és una barrera molt difícil de superar. El mateix passa amb els fiscals", apunta la lletrada Pijoan. “Si el risc és mitjà o alt, la meva experiència és que la Fiscalía et tomba el permís”, corrobora Eva María Vivo, presidenta de la comissió de penitenciari de l'ICAB, el col·legi de l'advocacia de Barcelona.

Relacionat amb aquest tema

Entitats de drets humans lamenten la negativa del Parlament d'investigar les males pràctiques a les presons catalanes

Judit Castaño

Les resolucions judicials a les quals Público ha tingut accés i els lletrats entrevistats dibuixen a més un ús variable per part dels diferents actors judicials involucrats. Mentre que per a alguns jutges de vigilància i els fiscals que els assessoren RisCanvi té un pes decisiu, les audiències provincials "cada vegada fan una lectura més matisable dels seus resultats del RisCanvi", resumeix Pijoan.

"Recórrer al RisCanvi és una eina fàcil. Si a mi em donen riscos alts o mitjans, denego permisos, denego tercer grau, no em cal dir res més. És una solució més fàcil", reflexiona un jutge de la jurisdicció de penitenciari a Catalunya en exercici que ha parlat amb Público sota condició d'anonimat.

Aquest magistrat amb àmplia experiència critica la falta de directrius clares i assenyala també com les avaluacions de RisCanvi condicionen gairebé sempre la postura del ministeri fiscal. Si aquestes no s'inclouen en l'expedient de l'intern, els fiscals les sol·liciten a la presó, explica. "Però si li surt baix, no ho dirà. Sempre s'ho calla", afegeix.

Una predicció fal·lible

Els algoritmes integrats en RisCanvi realitzen els seus càlculs a partir de 43 factors considerats de risc . Alguns són estàtics, és a dir tenen a veure amb la biografia de l'intern. Per exemple, el tipus de delicte, l'edat amb la qual va delinquir per primera vegada, els antecedents delictius familiars o la nacionalitat. Mentre que altres són dinàmics i sobre el paper poden variar amb el temps.

Aquí apareixen qüestions com el seu grau d'impulsivitat i hostilitat, la seva resposta al tractament a la presó o si ha tingut conflictes amb altres presos, entre d'altres. Cada escala de risc en RisCanvi té una combinació diferent de variables. Aquesta informació, tant els factors estàtics com dinàmics, la recullen, valoren i introdueixen en el programari els integrants de la junta de tractament, formada per juristes, psicòlegs, treballadors socials, pedagogs i educadors.

Saber amb exactitud per què els nivells de risc d'Omar s'han mantingut alts aquests anys és una tasca complexa. El seu bon comportament a la presó, l'absència de parts des de 2014 o les successives sortides, tant programades com judicials, portarien a pensar en uns riscos tendents a zero. No obstant això, els seus nivells de RisCanvi no s'han mogut.

Anneris Álava, educadora de la Fundació Marianao que l'acompanya des de fa anys, apunta una hipòtesi. Que el tipus de delicte pel qual va entrar a la presó el 2011 -qualificat com a violent pel jutge que el va condemnar- i el seu estat d'intoxicació per alcohol al cometre'l continuïn fins avui penalitzant Omar. Ambdues variables tenen un pes especialment important en la cuina algorísmica de RisCanvi.

A això es podria afegir un tercer factor. Durant diversos moments de la seva cadena permissiva, el RisCanvi d'Omar no s'ha actualitzat com estableix el protocol, és a dir almenys cada mig any, adverteix Mónica Pons, jurista i companya d'Àlaba en l'equip que l'acompanya. "Els informes que li arribaven al jutge reflectien una situació que no era en la que es trobava realment", apunta sobre les primeres denegacions de permís que van enfrontar.

Una mala praxi que d'acord a diversos lletrats entrevistats és avui relativament freqüent a les presons catalanes, amb problemes de personal i recursos des de fa temps."Ens costa molt que actualitzin el RisCanvi. En teoria ho han de fer cada sis mesos, quan té revisió del grau, però ens trobem que no passa", diu la lletrada Pijoan.

Carlos Castillo és científic de dades i professor titular a la Universitat Pompeu Fabra (UPF). Castillo i el seu equip porten anys investigant els algoritmes d'aquest sistema . Diversos d'aquests estudis els han fet a més en col·laboració amb el Departament de Justícia i amb dades reals de reincidència de presos prèviament analitzats per RisCanvi.

Castillo explica que la precisió d'aquests models predictius és molt semblant a la d'altres eines similars que s'usen, també des de fa anys, en països com Canadà, Estados Unidos i Regne Unit. "Si un agafa un parell d'interns, un dels quals ha reincidit i un altre no, en una mica més del 70% dels casos RisCanvi li haurà donat una puntuació més alta a l'intern que va reincidir respecte al que no ho va fer. Però en un 30% dels casos RisCanvi haurà puntuat més alt el que no va cometre la reincidència respecte al que sí que la va cometre", resumeix Castillo.

Aquesta mètrica habitual per mesurar la fiabilitat de models predictius -coneguda com a Àrea sota la corba (AUC)-, explica aquest científic, s'ha d'interpretar com que l'encert del Riscanvi en una mica més de set de cada deu casos "permet ordenar interns des del que té més risc al que en té menys".

El 30% restant "entra dins d'incerteses que provenen del fet que no coneixem tots els antecedents de la persona", ni el que li passarà durant la resta de la seva vida. Com qualsevol intent d'endevinar el que passarà en el futur, conclou Castillo, "aquesta predicció no és mai perfecta".

"Buit de garanties"

RisCanvi es va crear fa una dècada i mitja a partir de l'evidència científica existent sobre quins factors disparen o redueixen el risc que un intern reincideixi. La Generalitat es va recolzar per a aquesta tasca en un equip universitari expert en la predicció de la violència . Des de llavors els seus responsables de presons defensen que només és un element informatiu més per als professionals dels centres. RisCanvi, insisteixen en públic i en privat, serveix per "orientar" i "complementar" les seves decisions.

Els funcionaris encarregats de validar els resultats del programari, en fer aquesta tasca veuen a la pantalla del seu ordinador un missatge d'advertència que coincideix amb aquest enfocament. En ell s'hi llegeix que els nivells de risc de RisCanvi han d'interpretar-se "tenint en compte el motiu i el context" i en cap cas han de "condicionar les decisions", segons una imatge a la qual ha accedit Público.

Les precaucions dins de les presons catalanes contrasten amb com els resultats de RisCanvi intervenen en seu judicial. Fonts properes al Tribunal Superior de Justícia de Catalunya, responsable dels jutges de vigilància i les audiències provincials, confirmen que no existeix un criteri establert entre els magistrats sobre com usar aquesta informació. I admeten que la formació al voltant d'aquesta eina ha estat molt escassa, provenint principalment de l'ICAB.

El jutge entrevistat esmenta també un curs organitzat abans de la pandèmia pel Centre d'Estudis Jurídics i Formació Especialitzada, CEJFE, dependent de Justícia, com l'única ocasió en què han pogut intercanviar impressions amb funcionaris de presons sobre aquest tema.

Aquest jutge assenyala a més la importància de conèixer quins factors de risc valora el programari per poder posar-lo en el seu veritable context. "Si tu saps el pes que té el ser immigrant o tenir una família desestructurada, per exemple, el teu grau de credibilitat o de fe cega en el RisCanvi serà diferent", apunta.

Durant diversos mesos, Público ha tractat d'entrevistar un portaveu de la Fiscalia Superior de Catalunya, que va declinar inicialment la petició. Posteriorment, el fiscal coordinador de vigilància penitenciària Francisco J. Faus, en conversa telefònica amb aquest mitjà, va defensar l'ús que els fiscals fan dels nivells de risc assignats per RisCanvi. També el seu coneixement sobre les limitacions i fortaleses d'aquest sistema per avaluar el risc dels interns.

En 2024 la Unió Europa va aprovar un nou reglament d'intel·ligència artificial que posa el focus en l'ús d'algorismes en àrees especialment sensibles o de "alt risc". A aquestes aplicacions se'ls exigeix uns requisits de seguretat, control i transparència especialment exigents.

"Des del punt de vista regulador, l'ús d'un sistema d'IA s'ha d'ajustar a la finalitat prevista per qui el desenvolupa i valida. Estendre la seva utilització sense una avaluació específica pot generar un buit de garanties", assenyala Judith Membrives i Llorens, responsable de Tecnologia i Drets Humans a Lafede, la principal federació d'ONG de Catalunya. Aquesta investigadora, que al costat d'altres actors de la societat civil europea porta mesos implicada en la defensa d'una aplicació garantista de la nova regulació , qualifica aquest ús com a "desplaçament de finalitat".

"Quan eines dissenyades per orientar decisions tècniques es converteixen en arguments d'autoritat en seu judicial, es dilueix la frontera entre suport tècnic i delegació de judici. I aquesta delegació algorítmica té implicacions profundes per a l'Estat de Drets i la democràcia", afegeix Membrives i Llorens.

Castillo fa una reflexió en la mateixa línia i qualifica l'ús de RisCanvi en l'àmbit judicial com un "ús no anticipat, un ús no previst". I adverteix que "aquest tipus d'usos són els que normalment porten a situacions de discriminació i biaix". "El RisCanvi és una eina per donar suport a la decisió d'una junta de tractament. Per això està dissenyada i per això ha estat provada”, conclou.

El Departament de Justícia de la Generalitat ha declinat les reiterades peticions de Público per entrevistar un portaveu, com a part d'aquesta investigació. A preguntes per correu electrònic sobre l'ús dels resultats del RisCanvi per actors judicials, fonts oficials asseguren que la Secretaria de Mesures Penals, Reinserció i Atenció a la Víctima, àrea responsable dels serveis penitenciaris, "facilita informació únicament a aquells òrgans que estiguin legitimats normativament per rebre-la".

"No obstant això, no podem atendre consultes relatives a l'ús que altres òrgans judicials o fiscals puguin fer d'aquesta informació", afegeixen aquestes fonts.

Contacte amb l'exterior

Comptar amb una foto detallada de com RisCanvi influeix en els drets de tots els presos catalans és avui difícil. A diferència del que passa amb les resolucions de les audiències provincials - disponibles a través del CENDOJ , el centre de documentació del poder judicial-, els errors dels jutjats de vigilància penitenciària no són públics.

Això impedeix conèixer de forma exhaustiva quants expedients es frenen en aquesta primera instància judicial a causa d'aquests algoritmes. A això cal afegir, a més, que són pocs els interns que arriben fins a la segona instància, les audiències. A causa que només un petit percentatge recorre davant d'una denegació de permís, assenyala Altamira Guelbenzu, advocada del col·lectiu IACTA i lletrada en el torn d'ofici.

Guelbenzu explica que la majoria dels presos a Catalunya desconeixen com presentar un recurs, o com accedir a un advocat d'ofici que els ajudi en aquesta tasca. "Hi ha una manca d'informació molt heavy " que s'agreuja en el cas dels interns estrangers que no dominen l'idioma, afegeix. "Tot això fa que poques vegades aquests casos arribin als jutjats ia les audiències. Hi ha un forat d'informació que dificulta veure la dimensió d'això", conclou aquesta lletrada.

Anneris Álava, de la Fundació Marianao, coincideix en aquesta anàlisi i aporta una altra clau important. "S'ha de partir de la base que la gran majoria de persones internes en centres penitenciaris no tenen els recursos econòmics suficients com per permetre's bons advocats", apunta.

La impossibilitat, en moltes ocasions, d'accedir a una defensa amb garanties unida al pes de RisCanvi provoca que els interns vulnerables amb freqüència "no puguin gaudir de beneficis penitenciaris" malgrat reunir els requisits per a això, reflexiona Àlaba. Una situació en la qual amb probabilitat s'hauria vist Omar de no comptar amb el suport de la fundació.

Aquest home espigat va arribar a Catalunya sent menor d'edat des d'un país del Magrib. Va ser un menor tutelat i va passar per diversos centres d'acollida. Gràcies a la Fundació Marianao va trobar la seva primera feina, que li va permetre viure de forma independent uns anys. Però al cap de poc d'entrar a la vintena tot es va torçar.

"M'he complicat la vida jo sol", afirma avui. "La veritat, la llibertat no la valores fins que la perds. Ara mateix et dic que compto els minuts, un a un, perquè em donen hores...", reflexiona durant una de les seves últimes sortides de permís. Els professionals que treballen dia a dia amb la població reclusa incideixen en la importància dels beneficis penitenciaris. Consideren que és un element clau per aconseguir un procés de reinserció reeixit, que permeti a aquestes persones viure de nou en societat sense delinquir.

"Una part molt important de la condemna, a part de tractar la problemàtica que l'hagi portat a delinquir, i en el moment en què això ja s'ha pogut tractar, també és reprendre el contacte amb l'exterior, perquè al final la condemna s'acaba i és amb el que aquesta persona es trobarà quan surti", apunta Mónica Pons.

"Una persona que porta tancada molts anys ha d'anar de mica en mica trobant-se de nou amb aquesta societat, amb tots els canvis que han ocorregut durant el temps que ha estat al centre", afegeix la seva companya Àlaba. En cas contrari, la probabilitat que reincideixi, especialment entre interns amb algun problema de toxicomania i altres perfils vulnerables, augmenta de forma exponencial, explica aquesta educadora.

Omar rememora l'empipament que va sentir fa uns mesos quan li van comunicar, dins de presó, que el jutge s'havia oposat finalment a la seva progressió de grau: "Ja hi estic acostumat", diu amb resignació.

"Què faig? Vaig a cridar? No, perquè ho perdré tot. Els hi fotré bronca? No, perquè jo per a ells soc un número més. Quan estàs dins, no és igual a com estem asseguts aquí. Ets un número més, tant els fa. Tu crides, et truca un funcionari, et hoxapen i ja perds tot. S'ha de fer servir el cap”.

Omar assegura que "ha tingut sort" de tenir el suport d'aquesta fundació. En cas contrari, el seu present probablement seria molt diferent i no veuria el futur amb "optimisme", com fa ara. "La primera vegada que vaig sortir vaig ser molt feliç perquè portava molts anys dins. El que veuen tots els dies en llibertat, tu no ho veus. Perquè estàs en un pati. És un altre món", conclou.