Entrevista a Hannes Cools, expert en intel·ligència artificial"Amb la IA, hi ha el risc que la gent ja no es cregui res"

Encara que no és un concepte nou, la intel·ligència artificial copa l'agenda mediàtica cada vegada amb més freqüència. El negoci de les grans empreses tecnològiques –les anomenades big tech– té una creixent influència política, que al seu torn repercuteix en transformacions laborals, econòmiques i socials. L'atenció sobre les denominades tecnologies disruptives augmenta i genera sentiments oposats. Aquests oscil·len entre l'optimisme cec i el rebuig radical. Però en tots els casos revela el protagonisme que les eines digitals tenen en el pensament de la ciutadania.

No es tracta només d'una qüestió tècnica. Els avenços tecnològics han modelat les societats en tots els seus sentits des de les albors de la història –com la roda, la bombeta, la màquina de vapor o el telèfon, entre una multiplicitat d'invencions–. I la irrupció de la IA no està sent menys. La seva instauració vertebra una nova forma de comunicació, de generar certeses i construir creences. Transforma les maneres en què la població accedeix a les dades i, de manera general, a la informació. Però també a la desinformació. Com podem fer-nos càrrec d'aquest momentum, on el real i el fals es difuminen en un mar de rumors i deepfakes?

La Unió Europea va tractar de contribuir en la seva resposta a aquests fenòmens fa uns dies. El Panell pel Futur de la Ciència i la Tecnologia (STOA, per les sigles en anglès) va convocar, a través del European Science-Media Hub (ESMH), la seva anual escola d'estiu per a periodistes i divulgadors científics, en la qual Público va estar present. Aquesta edició es va centrar precisament en la irrupció de la intel·ligència artificial i els seus instruments. La taula inaugural es va centrar en el paper del periodisme com a agent per preservar la democràcia i la confiança en el context tecnològic actual.

Aquest esdeveniment va ser moderat per Hannes Cools, professor de Factor Humà i Noves Tecnologies a la Universitat d'Amsterdam. En una conversa amb aquest mitjà, l'expert reflexiona sobre l'adopció d'aquestes eines per part dels mitjans de comunicació, els riscos de la desinformació i els elements que diferencien els actuals avenços tecnològics dels que van esdevenir en el passat.

Com ha afectat ja la intel·ligència artificial a la producció de notícies?

Depèn moltíssim del context i de les empreses informatives. En el cas dels Països Baixos és cada vegada més comú que s'integrin els anomenats Large Language Models (LLM) –un sistema d'aprenentatge dissenyat per comprendre, processar i generar llenguatge humà de manera natural i fluida–. En diversos països està augmentant el nombre de mitjans que entrenen aquests sistemes amb els seus propis continguts i s'anima als propis periodistes a utilitzar aquestes tecnologies. És un exemple molt concret de com ja està canviant els processos d'escriptura, perquè fa suggeriments sobre com simplificar un text específic o resumir coses concretes per a diferents públics demogràfics.

En algunes redaccions s'aposta de ple per la IA mentre d'altres es resisteixen de veritat

I això no genera cap tipus de conflicte?

Pensant específicament en el context holandès, molts periodistes utilitzen ja aquestes eines de forma bastant sistemàtica. No obstant això, en altres contextos no canvia necessàriament la part de producció perquè hi ha molta resistència per part dels redactors. Depèn en gran mesura de la cultura de cada organització particular: en algunes s'aposta de ple per la IA i en altres es resisteixen de veritat.

Com ha canviat el consum per part de les audiències?

Definitivament ha tingut un impacte en els processos periodístics, però també en els formats. Ara es comença a sentir parlar del "periodisme modular" o de formes fluides de periodisme [aquest consisteix a crear peces fragmentades que funcionen per separat, en lloc del clàssic text lineal].

Amb la IA es busca molt l'eficiència dels processos existents, però no necessàriament reinventar o transformar el periodisme per complet

Aquest canvi comporta algun perill?

En realitat, això es redueix simplement al fet que hi haurà diferents formats per a diferents públics. Per exemple, per a una audiència més jove potser són preferibles els continguts més visuals, mentre que el públic més gran prefereix el text. Crec que hi ha una multitud d'opcions i a la llarga arribaran diferents maneres de creació de continguts. De tota manera, l'avenç tecnològic actual està molt centrat en els fluxos de treball que ja existeixen, i no necessàriament a pensar de veritat en noves formes de consumir notícies. Es busca molt l'eficiència dels processos existents, però no necessàriament reinventar o transformar el periodisme per complet.

Quin diria que és el principal risc de la IA en la propagació de desinformació?

Crec que desdibuixa la línia entre el que és fals i el que és real, i l'escala d'aquest fenomen també és diferent al que havíem vist abans. És un veritable desafiament perquè les audiències són a tot arreu, en totes les plataformes i xarxes socials, de manera que es converteixen en una mena de blanc mòbil. A més, la desinformació es propaga més ràpid gràcies a la IA. Funciona com un incendi en aquest sentit: pot anar a major velocitat i també rep més oxigen. L'escala de les coses és simplement diferent, i també pot dirigir l'opinió pública en una direcció específica.

Quines conseqüències pot tenir aquesta desorientació sobre la falsedat i la realitat? Molta gent creu que les imatges estan creades per intel·ligència artificial, quan en realitat moltes són reals.

Hi ha el risc que la gent ja no es cregui res. Això és una preocupació que s'aguditzarà en el futur, però ja estem veient els efectes ara. Quan parlo amb fact-checkers [verificadors de dades], per exemple, m'expliquen que quan hi ha un incendi forestal, molta gent creu que les imatges estan generades per IA, quan en realitat moltes d'aquestes fotos són reals. La gent es qüestiona què és real i viceversa, la qual cosa és un gran problema.

La intel·ligència artificial no és una única eina. Ha esmentat el LLM, però també existeix el blockchain i altres anomenades "tecnologies disruptives". De quines altres formes estan transformant aquestes eines les nostres societats?

Si prens el blockchain com a exemple, es pot dir que és un tipus d'IA. Hi ha algoritmes d'aprenentatge automàtic (machine learning) darrere del seu funcionament, i en aquest sentit la IA i ChatGPT no són necessàriament nous. Tota la tecnologia ja hi era abans, però el 2022 hi va haver un moment vital quan va sortir ChatGPT i es va convertir en l'eina més descarregada de la història, de manera que l'escala d'ús ara és diferent. No obstant això, ja no se li presta molta atenció a les "tecnologies disruptives", ara tot s'ha convertit en "IA". Ara mateix, moltes empreses només pensen en l'eficiència: en processos de treball específics i en intentar que aquests processos siguin encara més eficients.

La IA canviarà el periodisme com a professió, com a institució i, de manera molt profunda, com un ofici

Com poden transformar aquestes tecnologies la manera en què creem coneixement?

La tecnologia sempre ha modelat el coneixement i viceversa. Potser ens podríem preguntar què diferencia el moment actual dels anteriors. En aquest sentit, l'escala de la intel·ligència artificial és diferent a la d'altres tecnologies. Potser es pot comparar amb l'arribada d'internet, però fins i tot aquí encara teníem el control en gran mesura. Ara tenim aquestes eines d'IA que estan canviant cap a on es mou la informació en l'ecosistema mediàtic. Però la qüestió de fons és que la tecnologia sempre ha modelat el periodisme i ho seguirà fent. Ho canviarà com a professió, com a institució i, de manera molt profunda, com un ofici.

Durant massa temps hem estat adormits i sent dependents de les grans empreses tecnològiques estatunidenques

La conversa sobre la IA sembla anar més enllà dels mitjans de comunicació i el seu públic, ja que també afecta de ple al polític. Per exemple, hem vist les últimes restriccions de Donald Trump a Anthropic o la seva ofensiva contra TikTok. A la vista d'això, quin paper juga Europa en el tauler? Podem dir que la UE compta amb una sobirania digital?

No crec que Europa sigui sobirana en termes digitals, i per això està tan amunt en l'agenda política ara mateix. Si prens a Itàlia com a exemple, el govern té una aplicació de verificació que s'utilitza per acudir de manera online a l'oficina d'impostos. Aquesta eina estava a punt de ser absorbida per una empresa nord-americana i es va bloquejar al Parlament específicament per aquesta raó, perquè volen tenir aquesta autonomia digital. Durant massa temps hem estat adormits i sent dependents de les grans empreses tecnològiques nord-americanes. I ara, amb Trump al Despatx Oval, comencem a adonar-nos de com de dependents som en realitat.

Trump en concret suposa una amenaça per a la sobirania digital europea. També hem de ser crítics amb aquest discurs de l'autonomia digital.

Per posar un altre exemple, quan la Cort Internacional de Justícia (CIJ) va emetre un veredicte amb el qual els Estats Unids no estava d'acord, aquests últims van apagar els centres de dades i els servidors des dels quals els jutges gestionaven els seus correus i documents. No van poder accedir al seu correu electrònic durant dues setmanes. És un exemple molt il·lustratiu del que pot sortir malament quan som superdependents.

Tanmateix, també hem de ser crítics amb aquest discurs de l'autonomia digital, perquè jo sempre sostinc que no totes les dependències són dolentes. Podem tenir dependències específiques, però potser algunes són més vitals o crítiques que d'altres.

Per exemple?

Potser per al periodisme, en ser una infraestructura crítica per a la democràcia, decidim que és una cosa que realment necessita ser digitalment autònom. Però potser altres sectors, com la verificació d'imatges en el camp mèdic, són àmbits on podem permetre'ns ser més dependents. El debat actual és molt radical: o no tenim sobirania digital o volem una autonomia completa, la qual cosa tampoc és realista. Sempre serem dependents, almenys fins a cert punt.

Tenint en compte com s'està desenvolupant el mercat tecnològic, estem més a prop d'una 'tecnoutopia' o d'una 'tecnodistopia'?

He investigat molt sobre els enfocaments dels mitjans respecte de la IA i l'automatització des dels anys cinquanta —perquè el terme "IA" és així de vell, i l'automatització ho és encara més, del segle XIX—. El que es pot observar és que aquests marcs, utòpic i distòpic, sempre han estat aquí. Però la resposta real sempre resideix en un terme mitjà. Moltes persones es pregunten amb freqüència si la intel·ligència artificial els traurà la feina, i això és una cosa que en certa manera està succeint, però no és tan binari.

La IA és una tecnologia molt complexa, per la qual cosa requereix una anàlisi molt exhaustiva sobre quin és el seu impacte específic

En què consisteix aquest terme mitjà?

El més probable és que afecti habilitats específiques, però tampoc passa d'un dia per l'altre. Serà una decisió humana, quan algunes persones en els llocs més alts d'una empresa potser s'adonin que ja no necessiten determinats llocs perquè consideren que la IA és prou bona. No és només la tecnologia la que es troba darrere, són molts factors i persones els que estan involucrats. Jo sempre dic que intento ser utòpic, però també sóc distòpic. Estar en algun punt intermedi et fa adonar-te que és una tecnologia molt complexa, per la qual cosa requereix una anàlisi molt exhaustiva sobre quin és el seu impacte específic, la seva escala i la seva acceleració, perquè estem enmig d'ella i l'estem vivint.

En resum, no és ni utòpic ni distòpic, però aquests enfocaments són molt dominants i dirigeixen molt la forma en què parlem de la IA: o bé ve a per les nostres feines o bé ens podrem jubilar als 25 anys i no haver de treballar més. Cap de les dues coses és realista. Aquest debat que hem de mantenir amb la societat ens ajudarà a calibrar on som exactament en aquesta escala.

Sembla una cosa cíclica. Ja passava amb els ludites en el seu moment: les màquines venien a prendre'ns la feina, quan, en realitat, el debat és com les noves tecnologies modelen la manera com treballem i què significa això per a les nostres condicions laborals i socials.

Just acabo d'escriure un llibre i el primer capítol tracta sobre tecnologia i periodisme. Bàsicament torno a la dècada de 1840, quan es va introduir el telègraf, i veus que la història es repeteix una vegada i una altra. Totes aquestes tecnologies diferents —la màquina d'escriure, internet i altres— han canviat el periodisme i el treball de manera profunda. Tot i així, ara amb la IA, no estic segur de com modelarà la societat d'aquí a cinc anys. Potser els processos de comunicació i de treball hagin canviat bastant, però el producte final no necessàriament. És una pregunta per a la qual no tinc la resposta. Ho veurem d'aquí a cinc anys.