La sobirania tecnològica catalana, a debat al Parlament: infraestructures, ús d'IA en Mossos, auditabilitat i Palantir
Parlem amb Efraín Foglia, investigador de la UOC, Joan Abellà, director d'Accent Obert, per conèixer en quin punt es troba la sobirania tecnològica i de dades a Catalunya
L'Ajuntament de Barcelona destina cada any més de 5 milions d'euros en programari de Microsoft, segons dades de la Plataforma de Serveis de Contractació Pública
Barcelona-
Aquest dijous es debat i vota al Parlament de Catalunya una moció sobre sobirania tecnològica i digital. La proposta gira entorn de quinze punts i torna a obrir el debat sobre quin ha de ser el rumb de l'estratègia catalana en aquesta matèria. Els principals eixos d'interès són quines opcions té Catalunya per desenvolupar infraestructures pròpies o per fer ús d'aquelles que n'augmentin l'autonomia europea; com operen els models d'IA als cossos de seguretat, així com quins límits de respecte als drets humans exigir a empreses contractades en licitacions públiques; o quin corpus cultural els entrena i com pot afectar a llengües com el català.
Els Comuns han impulsat aquesta moció que, entre altres coses, també reclama al govern espanyol fer pública tota la informació dels contractes amb Palantir. L'empresa de Peter Thiel desenvolupa sistemes de vigilància i dades que utilitza l'ICE i el Ministeri de Defensa hauria adjudicat un contracte de 16,5 milions d'euros per comprar un software d'anàlisi d'intel·ligència militar anomenat Gotham.
El debat parlamentari es duu a terme després que Comuns i PSC pactessin al març la creació d'un fons de sobirania tecnològica que acabarà de prendre forma aterrant xifres i recursos a partir dels resums pressupostaris que els diversos Departaments de la Generalitat estan ultimant aquestes setmanes. L'aprovació dels pressupostos catalans al Parlament de Catalunya serà aquest mateix dijous 2 de juliol. El debat també es produeix després que el govern català i l'espanyol hagin donat llum verda a la creació d'una societat mercantil que aspira a captar fons europeus per crear la gigafactoria d'IA a Móra la Nova. La instal·lació requereix una inversió de 5.000 milions d'euros entre fons públics i privats. En aquest context, parlem amb experts que aborden en quin punt es troba Catalunya respecte a la sobirania tecnològica i de dades.
Relacionat amb aquest tema
Els dos nivells de sobirania tecnològica: infraestructures i dades
L'investigador de la UOC i membre fundador d'Exo.cat i guifi.net, Efraín Foglia, aterra en quin punt es troba la sobirania tecnològica a Catalunya. La resposta és coneguda: anem molts passos per darrera respecte de les grans multinacionals americanes o del sector xinès. No obstant això, valora positivament que es comenci a entendre la urgència del moment. "Encara que es modifiqui només una mica la realitat, serveix. El canvi no es produirà d'un dia per l'altre", contextualitza.
Per entendre què significa la sobirania tecnològica, Foglia exposa que el primer nivell que on hem de mirar és en la part més física: servidors, antenes, cablejat o els mateixos centres de dades. Durant dècades no s'hi ha invertit de forma pública en aquesta infraestructura, i quan s'ha deixat en mans de grans multinacionals, no hi ha hagut la voluntat de governar-la. "Es pot augmentar la sobirania creant tecnologia, servidors o gestió Km0. Fins i tot, encara que la tecnologia s'hagi creat en altres territoris, la pots governar de forma local, però per a fer-ho es necessita voluntat política", considera l'investigador.
"Una cosa és la sobirania tecnològica, que té a veure més amb infraestructures, i l'altra la sobirania de dades", matisa Joan Abellà, director de l'entitat Accent Obert. Es aquest segon nivell, més intangible, de les dades, Abellà planteja que la contractació pública s'ha de qüestionar "si els programaris es poden auditar de forma verificable, en quina jurisdicció queden les dades i sota quina legislació operen", si és la local, que també regeix les normes europees, o no ho és.
Foglia posa l'exemple del projecte per digitalitzar la ciutat de Barcelona, Sentilo, que el 2016 va rebre el premi Open Awards d'innovació. El projecte va desplegar una xarxa de sensors a la ciutat per monitorar i regular els decibels, la temperatura, la qualitat de l'aire o la mobilitat, i tots estaven sota codi obert i auditable, una forma de fer que no passa en la majoria de serveis que presten les multinacionals.
Relacionat amb aquest tema
És el que passa a qualsevol universitat. Els centres universitaris utilitzen els servidors Drive de Google per a guardar-hi els arxius. "Les investigacions que s'han fet amb diner públic, que poden ser valuoses i poderossíssimes, les emmagatzemes a servidors de Google, i entra a una caixa obscura en la qual no hi tens escrutini de què es fa amb aquell material", es queixa l'investigador. La realitat és que costa auditar a les grans multinacionals perquè la majoria de servidors o tecnologia que empren no tenen un codi obert, i no es poden escrutar.
"Nosaltres considerem que les administracions o les universitats, quan contracten aquests serveis, ho han de fer des del prisma de la sobirania de dades. Per nosaltres és molt important que les dades quedin en mans de qui contracta el servei, sobretot si són institucions de l'administració pública", assegura el director d'Accent Obert.
Relacionat amb aquest tema
Aquest és un dels punts que considera la moció que es debatrà el pròxim dijous al parlament. El redactat planteja que l'estratègia catalana de sobirania digital i tecnològica "prioritzi a la contractació pública solucions de codi obert, programari lliure o infraestructures digitals públiques o comunitàries". També que es prioritzi a "proveïdors amb seu, govern real i subjecció jurídica a Catalunya, a l'Estat o a la Unió Europea".
Actualment, l'Ajuntament de Barcelona destina cada any més de 5 milions d'euros en programaris de Microsoft, segons dades de la Plataforma de Serveis de Contractació Pública. La darrera licitació, pels anys 2025 a 2028, va ser de 16,2 milions d'euros.
Relacionat amb aquest tema
L'ús d'intel·ligències artificials: biaixos, Mossos i català
En aquesta segona capa, a la sobirania de les dades, la auditabilitat té una importància rellevant. La capacitat per esbrinar quins són els models i engranatges que operen en les intel·ligències artificials permet conèixer-ne biaixos i errors.
Un dels temes que porta a debat la moció és l'ús de la intel·ligència artificial a la policia catalana. La moció planteja "sotmetre qualsevol tecnologia que estigui en ús" als Mossos a una "revisió independent" amb participació del Parlament, de l'Autoritat Catalana de Protecció de Dades i de la Sindicatura de Greuges. El PSC porta una esmena que limitaria aquesta supervisió a alguns casos, "si s'escau".
Un dels objectius d'aquesta revisió independent és evitar biaixos de gènere, classe, ètnia o d'altres, que puguin generar discriminació en l'automatització de l'anàlisi de les dades. De fet, l'objectiu de la moció és no només evitar-ho al cos policial sinó a qualsevol sistema d'intel·ligència artificial que operi "a serveis públics".
Foglia posa de relleu que els biaixos poden operar també quan utilitzem la intel·ligència artificial d'empreses estrangeres i aquesta ens crea contingut en català. L'investigador alerta que, habitualment, els sistemes automatitzats treballen en base als materials que tinguin indexats, i si majoritàriament són en anglès, el que farà serà principalment utilitzar fonts primàries nord-americanes i traduir-les al català.
"Nodrir i entrenar amb informació que no segregui per gènere, ni tingui mirada colonial, tingui valors socials, etcètera, dóna una IA amb resultats més justos i equànims", reflexiona l'investigador. "Una IA sense biaixos és aquella que està feta amb software lliure i que pots veure on estan els biaixos i corregir-los aportant altres fonts primàries", conclou.
Existeixen models d'intel·ligència artificial locals, a Catalunya l'AINA i a Espanya l'ALIA, que estan coordinats amb el Supercomputing Center de Barcelona, però Abellà reconeix que "no s'estan utilitzant tant com es creia que es podien haver utilitzat".
No obstant això, per al director d'Accent Obert, el desafiament està en què els model d'intel·ligència artificial més utilitzats "treballin sota els paràmetres culturals i lingüístics de casa nostra". Això ho considera el "repte més important que han d'afrontar les cultures i llengües no hegemòniques al món de la IA", i Abellà relata que Accent Obert està proposant un pla de treball per avançar en aquesta direcció.
"El domini .cat [llavor d'Accent Obert] va ser un primer exemple de conversa on vam ser capdavanters a les cultures europees i ara creiem que passarà el mateix amb la intel·ligència artificial", opina Abellà.
"Els catalans estem reflexionant sobre com construir un corpus de dades que representi la nostra cultura. Per tenir converses interessants amb tots els agents d'IA -que no deixen de ser multinacionals-, caldrà anar acompanyats d'altres regions d'Europa però també d'Estats, perquè el problema cultural no el tenim només algunes cultures, sino ara també la tenen els mateixos Estats", conclou el director d'Accent Obert.
Sobre la firma
Comentaris dels nostres subscriptors
Vols comentar-ho?Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.