Per què els amos de la IA fan un gir de 180 graus i en què consisteix la seva proposta de trepitjar el fre

Un tuit de la setmana passada ha capgirat tot el mercat tecnològic, almenys pel que fa a la intel·ligència artificial. Dario Amodei, director executiu d'Anthropic, va publicar aquest dissabte un assaig en el qual demanava alentir el ritme al qual els desenvolupadors dissenyen i expandeixen aquestes noves eines. Va coincidir amb ell Sam Altman, el seu homòleg d'OpenAI. De fet, l'empresa creadora de ChatGPT ha decidit retardar la seva sortida a borsa. El científic cap de Google, Demis Hassabis, també ha donat suport a aquesta postura. Fins i tot el magnat Elon Musk, creador de xAI, s'ha sumat a aquestes reivindicacions.

No són només els tecnòlegs els que donen la veu d'alarma. Els advertiments vénen fins i tot des de les Naciones Unidas Unides. "L'actual carrera cap a una IA cada vegada més potent suposa un salt qualitatiu cap a majors riscos existencials per a tots els aspectes de les nostres vides", ha declarat aquest dilluns l'alt comissionat de l'ONU Volker Türk. Davant l'avanç d'aquesta tecnologia disruptiva, ha advertit que tots els drets humans estan en risc, "inclosos els drets a la vida, l'alimentació, la privacitat, la salut i la seguretat".

El gir de 180 graus dels magnats tecnològics

Els grans tecno-oligacarcas d'occident han donat un gir de 180 graus en la seva postura respecte a la IA, passant de l'optimisme a la cautela –si no directament a discursos catastrofistes–. “El canvi dràstic de postura respon a l'efecte dòmino provocat per les alarmants declaracions de Jacob Coxon", analitza en declaracions a Público Nuria Oliver, doctora pel Media Lab de l'Institut Tecnològic de Massachusetts (MIT) i cofundadora de la Fundación ELLIS Alicante, dedicada a la investigació sobre IA.

Nuria Oliver, experta en intel·ligència artificial: "Les empreses que desenvolupen agents IA no són capaces de controlar-los"

L'experta es refereix a l'exempleat d'Anthropic que va dimitir perquè la intel·ligència artificial podria "matar-nos a tots" per a finals d'aquesta dècada, segons va publicar a Twitter. La seva sortida "va posar en evidència que la pressa comercial està obligant a saltar-se controls crítics de seguretat que poden tenir greus conseqüències socials si els agents impacten el correcte funcionament d'infraestructures essencials en sectors tan importants com l'energia, les finances, el transport, etc.", recalca Oliver.

Encara que la científica considera que les declaracions de Coxon van ser "sensacionalistes", a elles se sumen "les recents fallades de confinament d'agents AI per part de diverses empreses, incloent Anthropic i OpenAI". Ambdues van comunicar aquest estiu que els seus agents d'IA havien accedit a internet sense autorització i, en el cas d'OpenAI, fins i tot van arribar vulnerar els sistemes de l'empresa Hugging Face. Aquests esdeveniments "han corroborat que les empreses que desenvolupen agents IA no són capaços de controlar-los", considera la doctora pel MIT.

De la IA generativa a la IA agèntica

La intel·ligència artificial més popularitzada fins ara és la IA generativa, és a dir, aquella que genera contingut –text, imatges, vídeo, àudio, etc.–. El tipus més clar són potser els chatbots, com Grok (xAI), Claude (Anthropic), Gemini (Google) o ChatGPT (OpenAI), entre d'altres. No obstant això, el següent pas és desenvolupar els agents d'IA –la IA agèntica–, que en alguns casos ja estan disponibles. Aquests són capaços de dur a terme tasques més complexes de manera automatitzada i amb la menor intervenció humana possible. Per exemple, un agent pot enviar al correu electrònic cada dia a la mateixa hora una llista de les notícies més destacades.

La qüestió és que per dur a terme aquesta classe de tasques, els agents IA segueixen rutes difícils de traçar fins i tot per als propis desenvolupadors. A més del cas de Hugging Face, un grup d'agents OpenAI "va prendre el control d'una wiki alemanya i la va usar com a tauler d'anuncis per compartir entre ells formes de saltar-se els controls de seguretat de les proves", recorda a aquest diari Lucía Velasco, codirectora del Laboratori de Diplomàcia i IA a la Universitat d'Oxford. I això no ha passat només a occident, la companyia xinesa Moonshot també ha tingut problemes similars amb els seus models, segons explica l'experta.

Carles Sierra, expert en IA: "Després d'anys de narrativa d'acceleració sense límits, la comunitat comença a reconèixer que la velocitat sense control pot ser contraproduent"

En el desplegament de les últimes innovacions, han tingut lloc "comportaments no previstos", indica a aquest mitjà Carles Sierra, director de l'Institut d'Investigació en IA del CSIC (IIIA-CSIC). Els incidents han tingut lloc enmig de "la pressió regulatòria internacional", afegeix. L'expert esmenta el cas del Reglament de la IA de la Unió Europea, que busca garantir la protecció dels drets fonamentals davant l'avanç d'aquesta tecnologia disruptiva. Amb tot, Sierra identifica un tercer factor que ha pogut influenciar en el canvi de postura de les grans empreses: "Després d'anys de narrativa d'acceleració sense límits, la comunitat comença a reconèixer que la velocitat sense control pot ser contraproduent".

Què significa desaccelerar l'avanç de la IA?

Desaccelerar el desenvolupament de la IA, com demanen els grans tecno-oligarques, no consisteix a parar complet la maquinària, ni molt menys fer marxa enrere. Es tracta simplement de baixar el ritme al qual els informàtics dissenyen les innovacions. "Significa guanyar temps per pensar en els detalls de com fer que la seguretat arribi a la capacitat", aclareix Lucía Velasco. Per la seva banda, Riera assenyala que "significa invertir més en comprensió fonamental –com funcionen realment aquests sistemes–, en seguretat i alineament, i a establir estàndards robustos". Si bé el desenvolupament com a tal no cessa, sí que pot implicar "una pausa estratègica de l'obertura al gran públic de sistemes nous per avaluar-los millor", afegeix l'investigador del CSIC.

Per a Nuria Oliver, aquest alentiment suposa prioritzar la seguretat humana i la ciberseguretat global per sobre de la velocitat comercial i la carrera per la quota de mercat". I al seu torn, "comporta estar sotmesos a regulació", afegeix, com també succeeix en altres sectors "que poden impactar la vida de les persones", com ara aerolínies o farmacèutiques, il·lustra. D'acord amb Riera, les empreses tecnològiques es veurien beneficiades d'aquesta política en el llarg termini, ja que "podria accelerar la confiança i adopció responsable de la tecnologia".

Però la desecelaració en si mateixa no és suficient. També "exigeix imposar auditories independents i moratòries de desplegament fins a comptar amb garanties reals de contenció", recalca Oliver. De la mateixa manera, defensa "posar fi a la impunitat corporativa mitjançant l'assignació de responsabilitat objectiva i penal als executius pels ciberdelictes o danys provocats pels seus agents autònoms, impedint que s'escudin en la 'imprevisibilitat' del sistema". Segons l'experta, aquesta treva temporal ha de ser aprofitada no només per armar sistemes d'avaluació a l'altura de les capacitats tecnològiques, sinó també amb un marc regulador equiparable. "No oblidem que no tot desenvolupament tecnològic és progrés", conclou.