Entrevista a Maitane Valdecantos, advocada especialitzada en dret digital"Regular la IA no és frenar la innovació"
Els sistemes d'IA s'imposen en una batalla per dominar la innovació, però hi ha riscos per a la cultura, les llengües i els drets humans. Aquesta experta analitza el desenvolupament de la major tecnologia mai creada.
Madrid--Actualitzat a
L'advocada i economista Maitane Valdecantos Flores (Bilbao, 1985) és una de les persones que més sap a l'Estat espanyol sobre els avantatges i els riscos de la Intel·ligencia Artificial en el camp de la producció cultural, i les seves conferències sobre la matèria són realment memorables. És sòcia del bufet Audens, especialitzat en Propietat Intel·lectual i Dret digital; autora del llibre Legalitat dels negocis digitals (Anaya Multimèdia); i col·laboradora del Consell General de l'Advocacia Espanyola (CGAE) en la redacció del Llibre Blanc d'Intel·ligència Artificial i Advocacia.
Som davant la primera generació de graduats que han tingut a la seva disposició la Intel·ligencia Artificial (IA). Això cal interpretar-ho com una major preparació o al contrari?
No diria que estem davant una generació necessàriament millor preparada sinó preparada de manera diferent, i això té avantatges i desavantatges. Aquestes generacions han tingut accés immediat al coneixement, la possibilitat d'explorar més fonts d'informació i estan més familiaritzades amb eines digitals que, si s'utilitzen bé, poden potenciar enormement l'aprenentatge. No obstant això, també s'han detectat aspectes menys positius d'aquest sistema com són l'excessiva delegació en la intel·ligència artificial de tasques essencials per a l'aprenentatge, un menor exercici de la memòria, del raonament autònom i del pensament crític.
Veiem així mateix que la velocitat ha substituït en molts casos a la profunditat de l'aprenentatge i tot això impacta en capacitats absolutament necessàries per a l'acompliment professional i per a la vida, com la redacció, l'anàlisi, la comprensió o la resolució de problemes. I aquest context propicia un fenomen cada vegada més present en les nostres societats que és el biaix d'automatització, és a dir, la tendència a acceptar les respostes de la IA sense qüestionar-les. No obstant això, generacions que s'han format en un sistema imperfecte que tenia com a base la lectura i la memorització d'informació, compten amb una major capacitat per detectar errors o al·lucinacions de la intel·ligència artificial.
Relacionat amb aquest tema
Hi ha certa predisposició a atacar la IA; a veure-hi un impacte negatiu, una amenaça per a la humanitat?
Depèn de a qui preguntis. Hi ha sectors de la societat que la consideren una amenaça i rebutgen o temen tot el que pugui fer olor d'IA. No obstant això, altres sectors veuen en ella una solució a pràcticament qualsevol problema. En realitat, el punt intermedi és el que realment pot atorgar valor.
El que sí és cert és que la intel·ligència artificial no és una tecnologia més. Té unes característiques que la diferencien de les anteriors per la seva enorme capacitat per impactar en els drets fonamentals, la salut i la seguretat. No només automatitza tasques, sinó que pot influir en la presa de decisions, processar grans volums de dades, generar continguts pràcticament indistingibles dels creats per persones o afectar àmbits tan sensibles com l'accés a la informació, la sanitat, els processos electorals o la justícia. I tot això planteja riscos per a drets com la igualtat i la no discriminació, la privacitat, la protecció de dades o la tutela judicial efectiva.
"La IA té una enorme capacitat per impactar en els drets humans, la salut i la seguretat"
Vostè va exposar al Senat, en dues ocasions, a la Comissió sobre Ciència, Innovación i Universitats i a la de Cultura, en relació a la importància de la IA a l'ús de dades i en altres camps beneficiosos per a la societat, quines van ser les seves conclusions?
Vaig informar sobre com la intel·ligència artificial pot ser tant una eina d'apoderament cultural com un instrument d'exclusió i vaig incidir en el fet que l'elecció entre una o altra senda no és tecnològica, sinó política, ètica i jurídica. I és que les llengües menys parlades no només estan infrarepresentades, sinó que en moltes ocasions són completament ignorades pels models d'IA, reforçant desigualtats històriques i perpetuant la idea que certes llengües són més vàlides o útils que d'altres. Per això hem d'aconseguir que els sistemes d'IA no només funcionin bé, sinó que funcionin per a tots i totes.
En segon lloc, vaig exposar com l'aparició de la IA generativa ha plantejat tensions en el marc tradicional de propietat intel·lectual, propiciant el debat sobre si els continguts generats per IA han d'estar protegits per la propietat intel·lectual i sobre si l'entrenament de sistemes d'IA amb obres protegides pot acollir-se a algun límit. Vaig defensar una concepció humanista que segueixi protegint exclusivament les obres creades per les persones.
"Defenso una concepció humanista que segueixi protegint exclusivament les obres creades per les persones"
Una de les seves especialitats és l'impacte de la IA en la propietat intel·lectual. Quins són els problemes més habituals que s'estan donant en aquest context?
La situació actual és relativament clara: els continguts generats per IA es consideren no protegits perquè no reuneixen els requisits d'autoria humana i originalitat que la majoria de legislacions mundials preveuen. No obstant això, existeix un intens debat doctrinal sobre si aquest model ha d'evolucionar amb postures que advoquen pel reconeixement de la protecció per dret d'autoria o per la creació d'un nou dret. Hi ha fins i tot qui defensa que s'atorgui personalitat jurídica als robots com ja es fes amb les empreses i que així, tinguin drets i obligacions com pagar impostos. Al meu entendre, la protecció de la propietat intel·lectual ha de seguir vinculada a la creativitat humana.
Relacionat amb aquest tema
"Hi ha qui defensa que s'atorgui personalitat jurídica als robots perquè tinguin drets i obligacions"
Pel que fa a l'entrenament de sistemes d'IA, crec important posar el focus en les persones que creen i en el valor de la cultura. No podem reduir-les a un mitjà per a aconseguir un fi i considerar la llibertat per a innovar equivalent a la llibertat d'apropiació creativa.
I tampoc podem obviar que eines com ChatGPT, Gemini o Midjourney han estat possibles gràcies a l'entrenament dels grans models de llenguatge, que han precisat d'alts nivells computacionals i d'ingents dades, textos i altres obres com il·lustracions, llibres, quadres, vídeos, cançons, fotografies, entre d'altres, que en molts casos, no han estat llicenciades als seus titulars, sinó recol·lectats mitjançant webscraping, una tècnica que usa programes coneguts com crawlers per extreure informació de llocs web de manera automatitzada.
"Hem d'aconseguir que els sistemes d'IA no només funcionin bé, sinó que funcionin per a tots i totes"
En quin lloc estan quedant els creadors, com guionistes, il·lustradors, músics, escriptors, davant l'aclaparadora capacitat generativa de la IA?
La irrupció de la IA generativa s'ha convertit en un factor de substitució real en moltes professions creatives. Encara que dins del si empresarial i en l'administració pública hi ha qui la utilitza com una eina de suport per agilitzar processos, generar idees o augmentar la productivitat, també estem assistint a un reemplaçament estructural de professionals per sistemes capaços de generar continguts en segons i a un cost molt inferior.
Les dades comencen a reflectir aquesta realitat. La UNESCO en el seu informe ReShaping Policies for Creativity estima que, abans de 2028, la IA generativa podria reduir fins a un 24% els ingressos dels Shaping Policies o un 21% els del sector audiovisual. A això se suma que professions com la traducció o el subtitulat figuren entre les més vulnerables a l'automatització.
Però el problema no és únicament econòmic. També afecta a la identitat i al propi reconeixement. L'ús dels noms d'artistes per replicar els seus estils mitjançant prompts està portant a molts professionals a recórrer a eines de protecció o "enverinament de dades" per evitar que la seva obra pugui ser usada per entrenar a sistemes que precisament busquen la seva substitució.
En el món del Dret ja s'estan veient efectes perversos per l'ús sense verificar de la IA, amb recursos que citen sentències inexistents o normatives d'altres països en comptes de la interna.
Tant el Consell General de l'Advocacia (CGAE) com el Consell General del Poder judicial (CGPJ) han reaccionat amb rapidesa a la irrupció de la IA amb una resposta clara sobre aquest tema: la IA pot ser una eina d'enorme utilitat, però mai pot substituir el judici jurídic ni la responsabilitat dels qui exerceixen funcions jurídiques o jurisdiccionals.
El CGAE, per exemple, ha publicat el Llibre Blanc sobre Intel·ligència Artificial i Advocacia, en el qual he tingut l'honor de participar, i ha emès una circular interpretativa sobre l'ús de la IAG en l'exercici de la professió. I és que la digitalització no exigeix una nova ètica professional sinó reinterpretar els principis clàssics en un nou context tecnològic. La independència, la confidencialitat, la lleialtat al client, la integritat i la competència professional segueixen sent els mateixos pilars que han definit històricament la nostra professió i la utilització de tecnologia no pot comprometre'ls, de manera que els professionals de l'Advocacia tenim un deure reforçat de supervisió, verificació i control sobre qualsevol contingut generat amb IA.
Relacionat amb aquest tema
"Els professionals de l'Advocacia tenim un deure reforçat de supervisió, verificació i control sobre qualsevol contingut generat amb IA"
Hi ha una carrera per aconseguir avanços en el desenvolupament de la IA i garantir la sobirania tecnològica. En aquest sentit, la UE té massa dependència dels Estats Units?
Sí que considero que actualment hi ha una important dependència dels Estats Units, especialment en elements clau de la cadena de valor de la IA, com els grans models fundacionals, els proveïdors de serveis cloud o els semiconductors avançats.
Reduir aquesta dependència i reforçar la sobirania tecnològica és un dels grans desafiaments estratègics de la UE que està impulsant iniciatives destinades a enfortir les seves pròpies capacitats com les AI Factories, la inversió en supercomputació europea, els sandboxes regulatoris o els programes de finançament com Horizont Europa i Europa Digital.
L'objectiu no és només investigar, sinó també facilitar el desenvolupament, la prova i el desplegament de solucions europees d'IA i reduir la dependència d'infraestructures i tecnologies externes.
Relacionat amb aquest tema
La regularització que fa Europa va pel bon camí?
No voldria acabar sense desmuntar la idea que Europa només regula i que només Europa regula. Segons l'OCDE (l'Organització per a la Cooperació i el Desenvolupament Econòmics), més de 70 països compten ja amb polítiques d'intel·ligència artificial. I és que regular no és frenar la innovació, regular atorga context, seguretat jurídica i enfocament. No existeix una única forma de governar la IA perquè la regulació reflecteix els valors, prioritats i interessos estratègics de cada societat i la UE ha optat per posar a les persones en el centre de la innovació.
Sobre la firma
Comentaris dels nostres subscriptors
Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.