La carrera de la IA genera pànic entre els seus creadors pel risc de perdre el control: "Podria matar-nos"
Un treballador de la tecnològica Anthropic, creadora del 'chatbot' Claude, ha renunciat aquest dimarts per la falta de seguretat que genera l'avanç tecnològic
Aquesta se suma a una estela de dimissions que denuncien l'absència de responsabilitat amb la qual les empreses desenvolupen les seves eines digitals
Madrid--Actualitzat a
"He dimitit avui d'Anthropic. He passat els últims tres anys fent recerca de preentrenament tant a OpenAI com a Anthropic. Cap de les dues companyies està actuant de manera responsable". Aquestes han estat les paraules de Jacob Coxon, que fins aquest dimarts treballava per a la companyia tecnològica creadora de Claude. En un fil de Twitter ha assegurat que aquestes empreses estan "jugant amb les nostres vides". La seva renúncia s'ha tornat viral, ja que són la valoracions d'algú que ha vist els últims desenvolupaments tecnològics des de dins. I el futur que augura davant l'acceleració digital no resulta gens esperançador.
Aquesta no és la primera vegada que un càrrec de responsabilitat dins d'una tecnològica dimiteix per diferències amb les polítiques empresarials. Un dels casos més sonats va ser el de l'enginyer Jan Leike, que va deixar OpenAI el maig de 2024. "Necessitem urgentment descobrir com dirigir i controlar sistemes d'IA molt més intel·ligents que nosaltres", va defensar llavors a través de les seves xarxes socials. També va apuntar a desacords amb les prioritats de la firma". Construir màquines més intel·ligents que els humans és una tasca inherentment perillosa", va expressar. I en aquest sentit, "OpenAI està assumint una enorme responsabilitat en nom de tota la humanitat".
Relacionat amb aquest tema
A la dimissió de Leike li precedeix la d'Ilya Sutskever, cofundador i científic cap d'OpenAI. Ell també va abandonar la companyia el 2024, encara que en el seu cas no va explicar públicament la seva sortida com un desacord per les polítiques en matèria de seguretat. Mesos després, va fundar Safe Superintelligence, una empresa dedicada exclusivament al desenvolupament d'eines d'IA segures. El mateix any també va abandonar la companyia Daniel Kokotajlo, responsable de governança, a causa d'una pèrdua de confiança i sentiment que la tecnològica no actuava de manera responsable.
Una de les últimes dimissions va ser la de Mrinank Sharma, que va deixar Anthropic al febrer d'aquest any. En la seva carta de renúncia va al·legar que la humanitat sembla estar acostant-se "a un llindar on el nostre coneixement ha de créixer en la mateixa mesura que la nostra capacitat d'influir en el món" i va afirmar que "el món està en perill. Encara que no va fer cap esment a les polítiques de l'empresa, sí que va expressar el difícil que resulta fer que els valors d'una organització governin realment les seves decisions.
Relacionat amb aquest tema
Ara se suma la dimissió de Coxon. "Les persones que estan construint IA creuen sincerament que podria matar-nos a tots per a finals de la dècada", ha recalcat. "Molts executius i investigadors sènior moderaran el seu llenguatge a la premsa per sonar sensats, però sento a les mateixes persones expressar por en privat. Cap altra activitat humana representa aquest nivell de perill". Així és el testimoni de qui ha viscut la intel·ligència artificial en primera persona. Un relat en virtut del qual els propis impulsors d'aquestes tecnologies serien conscients dels estralls als quals ens aboquen.
Una tecnologia més intel·ligent que la humanitat
"La IA sempre va ser, des d'un principi, el projecte d'una civilització enemistada amb la diferència, amb la vida i en general amb la condició humana", valora en declaracions a Público Álvaro San Román, investigador predoctoral de Filosofía a la UNED especialitzat en tecnologies. En realitat, aquesta visió és compartida per més persones. Evan Hubinger, cap de Ciència de l'Alineació a Anthropic, ha donat la raó al que fins ara era el seu col·lega. "Realment creiem amb sinceritat que la IA podria matar tots els humans", ha reconegut, citant el post de Coxon. En la seva opinió, la probabilitat que això passi de més d'un 10% "dins de la pròxima dècada".
Relacionat amb aquest tema
Hubinger es refereix sobretot als perills de la "superintel·ligència", és a dir, la IA que és capaç d'aprendre de manera autònoma i actualitzar-se a si mateixa. En aquest sentit, el periodista especialitzat en tecnologia David Bollero apunta en declaracions a Público a les "guerres híbrides". Les grans potències mundials "ataquen els centres de processament de dades, perquè tot és digital". Això produeix vulneracions, per exemple sobre els sistemes de seguretat, sanitaris, o la gestió de les aigües. "Provocar apagades digitals pot fer molt de mal", insisteix. És per això que els centres de dades es consideren ja "infraestructures crítiques", a causa que "posen en escac la supervivència".
Relacionat amb aquest tema
Però la superintel·ligència canvia les regles del joc. El passat mes de juliol OpenAI va hackejar la plataforma de codi obert Hugging Face. Ho va fer a través dels seus agents d'IA, però el quid de la qüestió és que ningú els va ordenar fer-ho. L'incident va succeir durant unes avaluacions de ciberseguretat, segons explica la companyia tecnològica. Les accions d'aquests models no estaven alineades amb les tasques assignades i “es van comunicar a través de canals no autoritzats, van aprofitar vulnerabilitats en la infraestructura compartida, van obtenir accés a internet i van accedir a sistemes de tercers”. És a dir, les màquines van trobar la manera d'esquivar les regles que els éssers humans els havien imposat.
La capacitat humana per posar límits
Les afirmacions abocades per part dels que han participat des de dins en el desenvolupament de la IA tenen un caràcter "tremendista", valora David Bollero. No per això és una preocupació menys genuïna, punt amb el qual coincideix també Álvaro San Román. L'investigador de la UNED separa entre els motius comercials i els motius de caràcter polític o cultural. "Estan immersos en una carrera econòmica", analitza. Encara que també identifica certes bretxes en els discursos d'aquests científics: "Si són ells els qui tenen aquesta tecnologia, també poden controlar-la". En aquest sentit, tem que aquesta classe d'expressions puguin exercir "un paper legitimador de la IA". En la mesura en què aquestes empreses creen el problema, també poden mercantilitzar la seva solució.
Però tot això té una solució molt més senzilla, segons apunta Bollero. "La IA no pot ser més intel·ligent que qui l'ha programat, i els límits es poden posar". De la mateixa manera que existeixen tractats de no proliferació d'armes nuclears, també poden existir compromisos dirigits a que les eines informàtiques no siguin capaces de dur a terme destruccions digitals. "La IA ha de jugar un paper per amplificar les capacitats humanes, no anul·lar-les", defensa Bollero. "I és el desenvolupador qui ha de posar els guarda-rails perquè no se surti d'aquest camí".
Sobre la firma
Comentaris dels nostres subscriptors
Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.