Fins on pot mirar la policia? La UE alerta dels riscos del reconeixement biomètric per la privacitat i la igualtat      

Reconèixer una persona pels seus trets o per la seva veu a partir d'una foto, un vídeo o un àudio ja no és una escena pròpia d'una pel·lícula de ciència-ficció. La intel·ligència artificial permet analitzar i creuar milers de dades en qüestió de segons i la policia ja ho està aprofitant per investigar delictes, identificar persones o localitzar desapareguts. Però, quins són els límits? On queda la protecció de dades i què passa si la IA falla?

L'Agència de Drets Fonamentals de la Unió Europea (FRA) acaba de posar el focus precisament en aquests problemes. La seva anàlisi adverteix que l'ús policial de sistemes d'identificació biomètrica pot afectar de forma directa drets fonamentals com la privacitat, la protecció de dades, la llibertat d'expressió o el dret de reunió. A més, denuncia que podrien discriminar dones, minories ètniques, nens i persones grans.

La FRA adverteix que "els errors i biaixos en els sistemes d'IA poden donar lloc a resultats discriminatoris" i recorda que "fins i tot una taxa de falsos positius relativament baixa pot conduir a un nombre significatiu de falsos positius quan els sistemes s'utilitzen a gran escala". Si una eina analitza centenars de milers de rostres, un percentatge d'error aparentment petit pot traduir-se en un nombre considerable de persones identificades de forma incorrecta.

A què es deuen aquests biaixos? Els sistemes de reconeixement facial aprenen a partir de grans quantitats de dades. Si determinats grups estan sobrerepresentats en una base de dades, augmenten les possibilitats que les persones pertanyents a aquests grups apareguin en les cerques. I si a més la policia utilitza el sistema de manera més freqüent sobre determinades comunitats a causa de prejudicis, com poden ser les persones racialitzades, se centrarà la vigilància sobre aquestes mateixes persones.      

Però per a aconseguir eines més precises pot ser necessari disposar de bases de dades "grans i representatives", la qual cosa al seu torn genera un dilema ja que recopilar i conservar grans quantitats d'informació biomètrica pot xocar amb "els principis europeus de limitació de la finalitat i minimització de dades".

L'ús d'aquestes tecnologies en espais públics també planteja dubtes sobre la privacitat i pot acabar condicionant la forma en què les persones exerceixen els seus drets. Un 37% de les persones enquestades per la FRA afirma que li preocupa que les seves dades biomètriques puguin utilitzar-se amb finalitats no autoritzades. A més, l'agència adverteix que aquesta vigilància pot afectar la possibilitat de mantenir l'anonimat en llocs públics, el que podria crear un "efecte dissuasiu" i fer que les persones s'ho pensin dues vegades abans d'acudir a una manifestació o participar en un acte públic. Segons l'enquesta de la FRA, un 29% dels participants ha afirmat que l'ús policial d'aquestes tecnologies influiria negativament en la seva decisió d'assistir a protestes o actes públics. Una xifra que ascendeix al 40% entre les persones pertanyents a una minoria ètnica.

L'agència de la UE apunta que un dels perills de l'extensió d'aquest tipus de tecnologies és que, encara que es presentin com a mesures excepcionals, poden acabar "convertint-se en una rutina policial amb el pas del temps". Per això mateix, l'organisme insisteix que els Estats acatin la Llei d'IA de la UE, que limita el rastreig biomètric en temps real en llocs públics a situacions d'extrema necessitat, com la recerca de víctimes o la prevenció d'atacs terroristes.

Però també aconsella a cada estat membre que creï els seus propis "marcs legals" i "autoritats de supervisió" per controlar aquesta tecnologia i establir "límits estrictes". "Tant les forces de seguretat com les empreses desenvolupadores han d'emetre informes públics periòdics sobre l'ús efectiu d'aquestes eines", assenyalen.