Espanya traça deu línies vermelles a la IA: de les tècniques subliminals a l'explotació de la vulnerabilitat

El govern estatal ha donat llum verda al projecte de llei d'orgànica per regular la Intel·ligència Artificial (IA), que ara haurà de ser remesa a les Corts Generals per a la seva entrada en vigor. En la seva segona volta, un dels canvis qualitatius que ha rebut la norma és que ha passat a tenir categoria de llei orgànica. Això es deu al fet que els continguts afecten els drets fonamentals. El text és una adaptació de la legislació espanyola al Reglament Europeu d'IA i amplia les seves regulacions, amb la intenció de garantir un model "humanista" i "confiable" d'aquesta tecnologia disruptiva.

Una de les principals novetats que porta la llei és la prohibició expressa de les ultrafalsificacions o els deepfakes sexuals i de la pornografia infantil, que no incloïa la regulació comunitària. Si el reglament contempla vuit vetos específics a determinats sistemes d'IA, la norma espanyola eleva la llista a deu. "Hi havia models d'IA coneguts per tots i usats per nenes i nens ", ha indicat el ministre per a la Transformació Digital, Óscar López, durant la roda de premsa després del Consell de Ministres aquest dimarts. Encara que no ho ha esmentat explícitament, López s'ha referit a Grok, l'eina de la xarxa social X, com a exemple angular dels problemes derivats d'aquestes pràctiques. Així, la prohibició específica d'aquesta classe d'usos suposa "un avanç important en la protecció dels menors i especialment de les nenes", ha defensat. La nova norma contempla multes de fins a 35 milions d'euros per als qui desenvolupin pràctiques prohibides amb aquestes tecnologies.

Les prohibicions europees (i espanyoles) en la IA

Existeixen vuit "sistemes inacceptables" que el reglament comunitari prohibeix expressament. El primer té a veure amb les tècniques subliminals. Es tractaria de la manipulació enganyosa per anul·lar la voluntat, causant danys físics o psíquics. El segon té a veure amb l'explotació de la vulnerabilitat, per la qual un sistema pugui "distorsionar materialment el comportament" d'una persona per la seva edat, discapacitat o situació socioeconòmica, segons explica el propi reglament.

Relacionat amb aquest tema

El Gobierno aprueba el anteproyecto de ley de IA que prohíbe los 'deepfakes' sexuales

Adhik Arrilucea

Una tercera prohibició té a veure amb la classificació biomètrica, la qual serveixi per deduir la raça, religió o orientació sexual d'algú mitjançant trets sensibles. També es veta la puntuació social, que permeti avaluar la conducta per imposar tractes desfavorables o exclusió ciutadana injustificada. El cinquè sistema prohibit és la vigilància predictiva, és a dir, analitzar el risc d'una persona de cometre delictes basant-se només en perfils o trets personals.

El reglament proscriu el reconeixement d'emocions en entorns laborals i educatius, ja que pot vulnerar la intimitat i generar una situació d'estrès. L'scraping de cares també queda vetat. Aquesta tècnica consisteix a extreure de manera massiva imatges de persones amb sistemes automatitzats. Per últim, també es prohibeix la identificació en temps real. Aquesta consisteix en l'ús de biometria remota en espais públics per conèixer la identitat d'una persona –cosa que no s'ha de confondre amb la verificació, la qual no està prohibida ni es considera una pràctica de risc alt–.

Una legislació que aplica a empreses no europees

El reglament europeu i, per extensió, el projecte de llei orgànica, té un caràcter extraterritorial. Això vol dir que s'aplica a tots els proveïdors de serveis que operin a Europa, fins i tot si aquestes empreses els ofereixen des d'altres països. Això ha provocat la crítiques dels "tecnooligarques", com els ha denominat Óscar López. El propietari de X, Elon Musk, va fer una crida a l'"abolició" de la Unió Europea després que la Comissió Europea anunciés una multa de 120 milions d'euros a la xarxa social de la seva propietat pel "disseny enganyós" de la seva marca blava de verificació de comptes.

L'amo de Telegram, Pavel Durev, va enviar un missatge a tots els seus usuaris el passat mes de febrer. "El govern de Pedro Sánchez està impulsant noves regulacions perilloses que amenacen les vostres llibertats a internet", assegurava el magnat. En aquest context, "tot el que sigui atribuir responsabilitats a proveïdors em sembla una bona notícia", valora en declaracions a Público Álvaro San Román, investigador en el programa de Doctorat de Filosofia de la UNED i especialitzat en tecnologies.

Quatre nivells de risc

El reglament classifica quatre nivells de risc i en funció d'aquest es contemplen majors o menors limitacions. De major a menor: mínim o nul, limitat, alt i inacceptable. En el primer nivell es categoritzen la majoria dels sistemes d'IA i no estan regulats. En aquest estrat entrarien els jocs o els filtres de correu no desitjat, entre d'altres. Els chatbots com Grok, ChatGPT, Gemini, Claude, DeepSeek o Copilot, en canvi, suposen un risc limitat. Això significa que "estan subjectes a obligacions de transparència, com la d'informar els usuaris que el seu contingut s'ha generat mitjançant IA", informen el Consell de la UE i el Consell Europeu.

En el tercer nivell de risc es troben els sistemes utilitzats per diagnosticar malalties, la conducció autònoma o la biometria. Per a aquest tipus de tecnologies es contemplen "requisits i obligacions estrictes", així com "proves rigoroses, transparència i supervisió humana". Això últim no vol dir que una persona s'encarregui d'avaluar els resultats de cada treball realitzat per la IA. La supervisió humana té un caràcter més tècnic i busca analitzar canvis en els algoritmes que puguin haver convertit l'eina en discriminatòria, segons aclareixen fonts coneixedores. Finalment, el risc inacceptable el componen els vuit sistemes prohibits -i als quals España suma els deepfakes sexuals i la pornografia infantil-.

Preparats per al “salt civilitzatori”?

Les mesures preses en el si de la UE i també per part del govern central busquen establir un marc legal capaç de fer front a unes tecnologies disruptives que alteren les condicions materials de la societat i la seva organització. "Hem fet un salt molt important en un debat que és absolutament civilitzatori", ha destacat el titular de Transformació Digital. San Román considera "eloqüent" la frase de López. "D'una banda assumeix per fi que la IA suposa un canvi civilitzatori, però per un altre considera que avançar (tecnològicament, s'entén) és l'única forma de prendre partit en el debat sobre aquest canvi", analitza.

L'investigador mira amb sospita les declaracions del ministre. "La pregunta és a quin debat es refereix? sobre què es debatrà? Sobre la forma d'organitzar aquesta nova civilització? O més aviat el debat que s'ha de tenir és sobre si, com a societat, volem assumir aquest canvi?". El diagnòstic de San Román s'allunya de l'optimisme del Govern: "mentre debatem sobre la millor manera de legislar aquesta tecnologia, deixem de debatre el fet brutal que ja se'ns ha imposat, deixem de debatre sobre el fet de si volem i necessitem aquesta tecnologia, deixem d'atendre al fet brutal de que la decisió civilitzatòria ja ha estat presa sense els ciutadans, a costa dels ciutadans i a costa del medi ambient".