Ni pensa ni conspira: per què parlar de la IA com si fos humana beneficia les tecnològiques
En una trobada amb experts a la qual ha acudit 'Público', els científics han advertit que la manera en què parlem d'aquestes eines poden determinar la responsabilitat que assumeixen les empreses
Madrid--Actualitzat a
La població porta immersa setmanes en un debat sobre la intel·ligència artificial que en ocasions es torna estrambòtic. La desorientació, la confusió i la por caracteritzen alguns dels discursos apocalíptics més mediàtics. No obstant això, la manera en què ens referim a la tecnologia té conseqüències sobre com la imaginem i pensem. I en conseqüència, també a qui –o qui– assenyalem com a responsables dels danys que pugui causar, o de quina manera exigim als governs que regulin els usos d'aquestes eines.
Aquesta és una de les principals conclusions a les quals han arribat diferents experts en una trobada amb periodistes. L'esdeveniment ha estat organitzat per la plataforma divulgativa Science Media Centre Espanya. Hi han participat Ramón López de Mántaras, informàtic i físic, professor emèrit d'investigació del CSIC i fundador de l'Institut d'Investigació en Intel·ligència Artificial (IIIA-CSIC); Nuria Oliver, directora de la Fundació ELLIS Alacant, i Senén Barro, director de CiTIUS-Centre Singular d'Investigació en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostel·la.
Pensar en la IA com si fos un ésser humà
És bastant comú llegir o escoltar frases en què "intel·ligència artificial" és el subjecte de l'oració: la IA va fer, la IA va pensar, la IA hackejar... però en realitat és una eina de programari emprada per persones de carn i ossos. "Atribuir als models capacitats humanes contribueix a presentar-los com a entitats extraordinàriament avançades, autònomes i molt poderoses", ha expressat López de Mántaras. Això magnifica davant inversors i l'opinió pública les característiques reals d'aquestes eines, que semblen “superavançades i molt properes a l'anomenada intel·ligència artificial general”.
Relacionat amb aquest tema
També coneguda per les seves sigles, IAG (o AGI, en anglès), és un sistema hipotètic que es caracteritza per superar les capacitats cognitives humanes. Aprèn de manera autònoma, comprèn situacions complexes amb informació incompleta o canviant, o transfereix coneixements d'un àmbit a un altre, entre altres possibilitats. Res d'això s'ha materialitzat encara i, de fet, l'escenari actual es troba lluny d'aquest estadi tecnològic. Tanmateix, les narratives mediàtiques dibuixen un retrat molt més avançat de la realitat. “Com més sembla que una màquina pensa, conspira o es rebel·la, més extraordinària ens sembla la tecnologia que l'empresa ha creat”, apunta el científic del CSIC. Aquest "llenguatge antropomòrfic" acaba distraient la població, afegeix, ja que s'acaba parlant "de risc d'extinció i rebel·lions", i no dels perills reals que ja estan succeint.
Se'ns ha escapat de les mans? De quines mans?
Els missatges apocalíptics que antropomorfitzen la intel·ligència artificial distreuen i permeten a les companyies eludir la seva responsabilitat. Nuria Oliver recorda el cas del hackeig "accidental" d'OpenAI a la plataforma de codi obert Hugging Face. Durant unes avaluacions de ciberseguretat, uns agents d'IA no estaven alineades amb les tasques assignades i “es van comunicar a través de canals no autoritzats, van aprofitar vulnerabilitats en la infraestructura compartida, van obtenir accés a internet i van accedir a sistemes de tercers”. La companyia de Sam Altman es refereix a aquests fets com a "incident", però Oliver considera "inacceptable" parlar en aquests termes."Això no és un incident, és un cibercrim. Per això hem de demanar responsabilitats".
"És clar que ens hem de preocupar pels riscos que tenen a veure amb la seguretat", subratlla per la seva part Senén Barro. "És com si les empreses d'automoció estiguessin construint cotxes on només els preocupa augmentar la potència del motor i desatenguessin tota la resta". I d'igual manera, considera que és com si els governs no es preocupessin per l'estat de les carreteres o l'educació dels conductors.
En qualsevol cas, insisteix que no existeix un problema de "matança massiva" com va arribar a afirmar l'exempleat de Anthropic, Jacob Coxon, i amb el qual va coincidir Evan Hubinger, enginyer que segueix en la companyia. Barro destaca, en coincidència amb López de Mántaras, que aquesta manera de parlar porta a eludir responsabilitats. Sobre aquesta qüestió, també Nuria Oliver coincideix que les advertències sobre com la IA "se'ns va de les mans" són problemàtiques. " De quines mans? De les nostres per descomptat no", defensa. "És una manera de transferir la responsabilitat a la societat quan està clar que la societat és la víctima d'aquesta irresponsabilitat".
Relacionat amb aquest tema
Opacitat sobre l'estat de l'art en mans privades
Les companyies promouen també discursos i idees d'avenços tecnològics que encara han d'arribar. No obstant això, no existeix transparència sobre quin és l'estat actual d'aquestes innovacions. Segons ressalta Barro, les empreses fan declaracions i publiquen articles científics sobre les últimes Barro, però també tenen plans a sis mesos vista, i de vegades a un any o fins i tot més temps. Aquests projectes no són públics, ja que les firmes competeixen entre elles, per la qual cosa és difícil saber del cert com d'avançades estan les eines pendents de comercialitzar.
És en aquest context en què s'ha popularitzat el terme "automillora recursiva". Es tracta d'una intel·ligència artificial capaç de dissenyar una versió millorada de si mateixa. És a dir, ja no serien els desenvolupadors els qui creen els nous sistemes, sinó que serien les pròpies màquines les que s'encarregarien de crear a les seves successores. Igual que la IAG, tampoc l'automillora recursiva està implantada en l'escenari actual. Els IAG sí que reconeixen que es pot identificar l'ús de la IA per elaborar els últims models, però això no significa que no hi hagi intervenció humana.
Relacionat amb aquest tema
Malgrat que l'automillora recursiva no sigui una realitat material, la seva popularització contribueix també a la idea que la IA "se'ns ha anat de les mans". A més, se suma el fet que no hi ha transparència sobre l'avanç tecnològic de les companyies. Per als experts, el problema que es troba darrere és que les empreses privades han avançat a la investigació pública en aquest camp de coneixement. Tots tres assenyalen que les firmes no haurien arribat a elaborar els invents actuals si no els precedís una llarga trajectòria científica finançada amb diners públics. I igualment, defensen la necessitat de mantenir aquesta inversió i no delegar aquest coneixement en les mans dels tecno-oligarques.
Sobre la firma
Comentaris dels nostres subscriptors
Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.