La IA irromp en la campanya del 29-N sense una llei estatal que la reguli
La Unió Europea compta amb reglaments específics i d'aplicació directa per minimitzar l'abús de les intel·ligències artificials en els comicis, però falta una llei espanyola específica que atorgui, entre altres previsions, capacitat sancionadora a aquestes pràctiques
'Els algoritmes també voten' és una sèrie de reportatges de Público que analitza com és el nou ecosistema digital i el seu impacte electoral. La secció explora com es disputa el vot a les pantalles

Madrid--Actualitzat a
L'auge de la intel·ligència artificial i els seus agents, a part de generar problemes mediambientals i financers, té una derivada política les conseqüències de la qual encara no es poden mesurar amb una certa fidelitat. No obstant això, és evident que les forces polítiques la utilitzen encara que sigui per crear mems o acudits de dubtós gust. Fins i tot per llançar modificacions realistes de candidats de l'altre bàndol (deepfake), cosa que pot arribar a ser il·lícita.
En aquest darrer cas, la prestigiosa advocada i experta en bon ús de la tecnologia Paloma Llaneza, estima que “les publicacions de vídeos fets amb IA on modifiquen imatges de personatges del partit polític contrari, dones, secretaris generals empresonats, etc. i els fan dir coses que no han dit, podrien excedir una intervenció de la Junta Electoral Central per manca de competències perquè —no es consideraria propaganda política— tot i que en aquest cas sí pot actuar la "jurisdicció ordinària".
El funcionament de les intel·ligències artificials és un misteri per l'opacitat extrema de les companyies que desenvolupen els seus models i agents. Però resulta evident que l'extracció massiva d'informació per entrenar aquests sistemes, així com la seva manera d'explicar, resumir i fins i tot tractar de predir comportaments socials ha obert la porta a realitats per a les quals les democràcies no estan preparades.
Rafael Rubio, professor de Dret Constitucional de la UCM i reconegut investigador dels efectes de la tecnologia en els sistemes democràtics, reconeix que és molt difícil saber si les formacions polítiques estan usant la IA en tot el seu potencial. "Per exemple, la microsegmentació per personalitzar la propaganda electoral és il·legal, ningú sortirà presumint que va utilitzar la intel·ligència artificial amb aquesta finalitat, però em costaria molt creure que no s'està utilitzant ".
Per la seva banda, Llaneza afirma que “la intel·ligència artificial ofereix, a diferència d'altres eines, sistemes estadístics basats en dades sense marcar, amb fonts diverses i no estandarditzades”. “És a dir”, explica aquesta experta, “pots donar-li dades d'una enquesta, vídeos i publicacions en mitjans de comunicació, que clarament són formats diferents, i és capaç de trobar patrons, d'identificar models i si pagues prou fins i tot et pot planificar una estratègia”.
Tal com insisteix el professor Rubio, "és molt difícil que sapiguem el veritable ús que s'està fent de la intel·ligència artificial".
Normativa incompleta
El marc normatiu específic sobre l'ús de la IA de cara a les eleccions generals del 29 de novembre existeix gràcies als reglaments europeus. Aquests reglaments, a diferència de les directives, són aplicables directament a tota la UE. No obstant això, necessiten ser adaptats a les realitats de cada país mitjançant una llei corresponent, que Espanya encara no té.
El principal problema a l'hora d'establir normes sobre la intel·ligència artificial és que és “una eina transversal que s'utilitza en tot l'ecosistema digital i per això afecta àmbits —mitjans, continguts audiovisuals, protecció de dades personals (on actua des de fa anys amb plens poders l'Agència Espanyola de Protecció de Dades), serveis digitals...— que regulen diferents reglaments" explica la catedràtica en Dret Mercantil a la Universitat de Valladolid i consellera de la Comissió Nacional dels Mercats i la Competència (CNMC) Marina Echebarría Sáenz.
El Reglament de Serveis Digitals de 2022 (DSA) exigeix expressament a les grans plataformes una avaluació de riscos que assenyali "qualsevol efecte negatiu real o previsible sobre el discurs cívic i els processos electorals". La supervisió de l'aplicació d'aquesta norma a Espanya recau en la CNMC, però manca encara d'estructura i de poder sancionador. En tot cas, existeix una sèrie de directrius per a la seva aplicació en processos electorals.
El Reglament europeu sobre intel·ligència artificial de 2024 recull les exigències mínimes per al funcionament de les IA a Europa. A Espanya, l'Agència Espanyola de Supervisió d'Intel·ligència Artificial ( AESIA), amb seu a la Corunya, és l'organisme públic encarregat de garantir l'ús ètic i segur de la intel·ligència artificial a Espanya. Però de nou, sense el desenvolupament de la normativa nacional les seves funcions són molt limitades.
A més, el Reglament sobre transparència i segmentació en la publicitat política de 2024 reconeix el dret de tot ciutadà a poder identificar clarament la propaganda política i saber qui està darrere de la mateixa, qui la paga, quant s'ha pagat per ella i si s'han utilitzat eines de segmentació per a la seva distribució.
A tot això se suma l'existent normativa de protecció de dades personals (Reglament europeu i Llei Orgànica de Protecció de Dades) i el seu tractament, desenvolupada fa anys. I a més, naturalment, completen el marc les atribucions que competeixen a la Junta Electoral Central (JEC) i, si escau, als tribunals ordinaris.
De moment, Espanya no té una normativa específica, clara, integradora i sancionadora sobre l'ús de la IA: l'últim intent de tirar endavant el Projecte de Llei Orgànica per al bon ús i la governança de la intel·ligència artificial va decaure en convocar-se les eleccions anticipades del 29-N. La conclusió, a dia d'avui, és que existeix una madeixa de competències, normatives i organismes poc eficaç.
El pes de la IA
L'ús creixent de la intel·ligència artificial hauria d'obligar a establir normes clares. Segons dades de l'últim panell de llars de la CNMC la meitat dels usuaris d'internet també fa servir eines d'IA.
Així, les dades que controla la CNMC indiquen que ChatGPT és la IA més utilitzada (41,3%), seguida de Gemini/Notebook LM (17,2%) i Copilot (7,1%). Únicament el 8,6% dels usuaris d'aquestes aplicacions d'intel·ligència artificial paga pels seus serveis. Aquest panell aporta una altra dada clau: el 15,7% dels usuaris no va revisar mai la veracitat de les respostes de la intel·ligència artificial, mentre que el 35% va verificar de tant en tant aquestes respostes obtingudes.
Per la seva banda, l'últim baròmetre de l'Ateneu de la Dada reflecteix que el 80% dels enquestats confiaria poc o gens en una IA per decidir a qui votar. No obstant això, el 41% dels participants confiaria en la IA per resumir els programes electorals, sobretot els votants més joves; els majors de 65 anys són molt més escèptics (només el 22% afirma que confiaria en aquests resums).
Segons Marina Echebarría, "l'entrada de la intel·ligència artificial pel que fa a la salvaguarda del discurs cívic i de la integritat dels processos electorals ha tingut impacte per diverses raons". "Hem vist com, a través de mecanismes de recomanació, és capaç de seleccionar continguts, la IA està generant contextos nous: quan fas una recerca, moltes vegades la IA intervé en primer lloc i et fa una selecció, i fins i tot genera una adaptació segons el teu perfil".
A més, aquesta experta recorda que “amb les IA s'ha disparat la generació de continguts que poden ser falsos o manipulats”, explica, tot i que puntualitza que “els procediments normatius poden resultar lents o feixucs, perquè han de ser cautelosos ja que en joc estan drets fonamentals com el de la llibertat d'expressió”.
Sanció a la vista
A Espanya, la CNMC és la coordinadora als efectes del Reglament DSA, el que regula els serveis digitals. Pel que fa a les eleccions, aquest reglament obliga a salvaguardar el discurs cívic, la transparència de les eleccions i la seva correcció per evitar ingerències estrangeres i desinformació.
Però Marina Echebarría apunta que aquest organisme encara no té "la capacitat sancionadora —articles 51 i 52 del Reglament pendents d'implementar-se a Espanya— perquè, recordem, no hi ha una llei pròpia que li atorgui aquest paper. Tenim, d'he fet, un procediment d'infracció obert, des de la Comissió Europea, que probablement es resoldrà en breu i serem condemnats per incomplir el reglament en aquesta part", lamenta aquesta consellera.
Mentrestant, quin és el paper de la CNMC en aquests comicis? “Actuem com a coordinadors entre societat civil, administracions estatals, la Comissió Europea i les plataformes”, afirma Echebarría.
De moment, la CNMC s'ha reunit fa pocs dies, a porta tancada, amb les grans plataformes, autoritats espanyoles i la societat civil (fact-checkers, sobretot), "perquè puguin parlar tranquil·lament". "Les plataformes han explicat quins mecanismes de previsió de riscos, de contenció, de rastreig i de denúncia tenen", explica Marina Echebarría, i afegeix que "les autoritats civils els han explicat quin paper compleix cadascuna d'elles".
Poques conseqüències
La CNMC reconeix que, a falta d'una llei estatal, el seu paper està sent "subtil" en no tenir una competència sancionadora. "Però quan apareix una cosa inquietant, que demostra, per exemple, un defecte de disseny a la xarxa que ofereix respostes indesitjades o realitza un tractament de continguts il·lícit o perillós", afegeix la consellera de la CNMC, "alertem immediatament a la instància de la Comissió Europea".
El principal problema amb les plataformes d'IA és que són estrangeres, gairebé cap d'europea: operen des dels Estats Units i la Xina. Però si compten amb establiment a Europa, normalment a Irlanda, aquest organisme es posa en contacte amb el del país corresponent que és el que té la capacitat de requeriment on estan les seves seus socials.
"Les plataformes no haurien de poder censurar continguts, i les administracions públiques només per ordre judicial"
Marina Echebarría recorda que el fantasma de la censura també plana sobre el control de la intel·ligència artificial: “La sàtira està permesa però la manipulació perniciosa o enganyosa de continguts no; les plataformes no haurien de poder censurar continguts, i les administracions públiques només per ordre judicial o per algun mecanisme excepcional davant riscos excepcionals, com la violació de certs drets sobre les dades personals, la propietat intel·lectual i quan la seguretat nacional està en joc”, apunta.
Els límits sobre la informació a les xarxes "estan molt taxats i tenen una interpretació restrictiva". "A més", afegeix, "per aplicar-los comptem també amb la supervisió dels jutges, la Junta Electoral Central —que per descomptat té les seves competències per eliminar continguts que puguin tenir rellevància en el procés electoral— i ara la Comissió Europea, quan rep casos de continguts que puguin incidir en desinformació greu i els investiga per detectar alguna fallada sistèmica en el control de riscos per part de les grans plataformes".
Brussel·les sempre actua a posteriori en cas d'ús irregular de la IA; si hi ha infracció, obre expedient i imposa les multes previstes que solen ser cridaneres tot i que potser no prou dissuasòries. “Però hi ha quelcom en què la gent no es fixa”, apunta la catedràtica, “i és que quan la Comissió Europea diu que hi ha hagut un defecte de disseny en el funcionament de la xarxa, més enllà de l'impacte de la multa hi ha l'ordre de rectificar l'operativa i això sí que els preocupa més, perquè els estàs dient que la seva forma d'articular el negoci digital no és correcta conforme al reglament europeu, i els estàs indicant que el seu model de negoci ha de ser adaptat al compliment normatiu".



Comentaris dels nostres subscriptors
Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.