La doble cara de la indústria de la IA: ven l'apocalipsi mentre fa negoci amb la seva omnipotència
Després que un exempleat d'Anthropic declarés que la IA podria "matar-nos a tots", la companyia va afirmar haver identificat i bloquejat intents d'utilitzar Claude per fabricar armes biològiques
"Les empreses tenen interès a presentar els seus sistemes com a tecnologies gairebé totpoderoses. Això pot servir tant per atreure inversió com per reivindicar que només elles tenen capacitat per controlar-les", sosté l'experta Itxaso Domínguez
Madrid--Actualitzat a
Els éssers humans són capaços d'emprar les eines tecnològiques per al millor i per al pitjor. Des de la creació del telèfon fins al desenvolupament de l'espionatge o les ciberestafes. Aquesta ambivalència s'amplifica amb l'arribada de la intel·ligència artificial. La setmana passada, un equip científic va emprar la IA per crear un atles del genoma humà que permet predir com afecten les mutacions genètiques la biologia molecular. Però també aquesta última setmana un exempleat d'Anthropic advertia que aquestes infraestructures podrien "matar-nos a tots" abans que acabi la dècada. En aquest context, cal preguntar-se com les societats afrontem aquests perills i qui proposa les solucions per fer-hi front.
Són riscos que a priori poden materialitzar-se en el llarg termini, encara que semblen lluny de ser una realitat palpable en poc temps. Després de les polèmiques declaracions sobre Anthropic de l'extreballador Jacob Coxon, la companyia va anunciar aquest dijous 10 de setembre que va frustrar diversos intents d'ús indegut de les seves tecnologies. En concret, va afirmar que va identificar i bloquejar possibles complots per desenvolupar armes biològiques amb la seva IA. De fet, aquest dissabte, Anthropic i OpenAI van demanar "baixar el ritme" de desenvolupament de la IA pel risc a "perdre el control". Diumenge, Anthropic va insistir en la idea en dir que "la indústria va mentir" sobre el perill de la IA i assegurar que el Govern i els ciutadans han d'intervenir.
En realitat, dels cinc casos d'estudis que presenta l'informe, cap tenia una intenció explícita de fabricar armament. Els exemples que exposa la firma estan relacionats amb la prestació de serveis a viròlegs, la realització d'experiments adaptats, elaboració de programes nacionals o negocis. Dels que recull l'estudi, potser el cas més proper a una arma biològica és el d'un investigador finançat pels EUA, que "va crear un atles de pèptids de verí i un sistema d'optimització generativa de molècules dirigides a objectius paralitzants i analgèsics".
Relacionat amb aquest tema
Augment dels cibermalfactors
Aquests escenaris extrems són especulatius, ja que Anthropic no pot determinar la intenció real darrere d'aquests casos. Però sense arribar a plantejar panorames apocalíptics, la realitat és que la digitalització comporta múltiples riscos. "Sistemes actuals faciliten determinades tasques de ciberatac, frau, vigilància o recerca i processament d'informació sensible", explica a Público Itxaso Domínguez, membre d'European Digital Rights (EDRi).
De fet, posa en relleu que no cal imaginar futurs distòpics per veure els estralls que provoca ja l'avanç de la IA i la seva implantació en mercats, polítiques i vides quotidianes. "Centrar-nos massa en escenaris extrems pot fer-nos oblidar danys que ja existeixen: discriminació automatitzada, vigilància, precarització laboral, concentració de poder, desinformació, costos ambientals o addicció", exemplifica.
L'advocat i expert en estratègia digital, Borja Adsuara, també destaca en una conversa amb aquest mitjà que les estafes s'han "perfeccionat" gràcies a la IA. Si bé abans podien ser més fàcils d'identificar, "ara no les pots detectar" perquè "fins i tot poden ser amb l'àudio i el vídeo del teu propi cap", comenta. Segons recull la Memòria Anual de la Fiscalia General de l'Estat 2025, "la ciberdelinqüència es va expandint progressivament arribant a múltiples i variades manifestacions criminals".
Aquest tipus de successos suposen ja "el 19,85% de l'activitat delictiva al nostre país, amb un índex de creixement del 5,3% respecte de l'any 2024", en referència a les dades proporcionades pel Balanç de Criminalitat del Ministeri de l'Interior corresponent al quart trimestre de l'any 2025. "És inqüestionable, per tant, que una bona part de l'activitat criminal s'està desplaçant inexorablement a l'entorn digital", avisa el document.
Relacionat amb aquest tema
Dependència de la IA (i de la tecnologia)
A la llum d'aquestes dades, existeix una preocupació per la fragilitat dels sistemes que sustenten les infraestructures crítiques dels estats i que depenen de la intel·ligència artificial. Tot i que Domínguez recorda que aquestes inquietuds tenen a veure amb els processos de digitalització en què les societats fa temps que estan immerses, de manera que no són noves."Les nostres infraestructures d'aigua, energia, transport o sanitat fa anys que depenen de sistemes informàtics", assenyala. "Per això els ciberatacs contra infraestructures crítiques són un problema anterior a l'actual onada d'IA".
Per Adsuara, aquesta dinàmica ha succeït sempre. El desenvolupament de tecnologies que permeten externalitzar un esforç cognitiu a la fi es converteixen en essencials per realitzar activitats comunes. "Quan es va inventar la calculadora, ens vam fer dependents d'aquest aparell, i ja la gent no sap ni tan sols tornar el canvi d'una compra", comenta. Seria també el cas dels rellotges digitals –pels quals es perd la capacitat de llegir rellotges analògics o esbrinar l'hora per la posició del sol– o del GPS –pel qual disminueix el sentit d'orientació–.
Relacionat amb aquest tema
Segons l'expert en estratègia digital, aquestes dependències no són necessàriament problemàtiques en si mateixes, sempre que s'aprengui a usar-les. "L'aprenentatge forma part del viatge", recalca. I en aquest sentit, valora que la IA és una eina positiva i útil en qualitat d'assistent. En canvi, sí que adverteix del risc que es deleguin totes les tasques en aquesta eina. En aquest cas, les persones no durien a terme aquest "viatge" mitjançant el qual s'adquireixen les competències socials, formatives i tècniques requerides per a integrar-se en el mercat laboral o, de manera més general, en la societat.
Un mercat concentrat
Si bé aquest tipus de riscos són inherents al propi avenç tecnològic, “la IA pot afegir noves vulnerabilitats si comencem a introduir sistemes poc fiables o difícils d'auditar en funcions crítiques”, reconeix Itxaso Domínguez. I aquesta inseguretat s'acreix quan aquesta dependència cobra un caire polític: i és que el control d'aquestes eines està concentrat en "unes poques empreses privades". Aquestes són les encarregades d'administrar "models, infraestructura i capacitat computacional".
Relacionat amb aquest tema
Un grup d'experts independents van publicar al gener de 2025 l'Informe internacional sobre la seguretat de la IA. "La investigació i el desenvolupament de la IA de propòsit general es concentra en uns pocs països occidentals i a la China", recull el document. Per als autors de l'estudi això pot augmentar les desigualtats globals.
Però aquesta concentració no és només de caràcter geogràfic, sinó també empresarial. "Aquesta concentració del mercat podria fer que les societats siguin més vulnerables a diversos riscos sistèmics", avisen. En conseqüència, una fallada o un error en algun dels escassos sistemes d'IA disponibles "podria causar fallades i disrupcions simultànies a gran escala". Sobre aquesta qüestió, Domínguez defensa que "la pregunta hauria de ser també què passa quan una administració o un hospital ja no pot prestar correctament un servei sense tecnologia controlada per una altra empresa".
Fugir dels catastrofismes
Es tracta d'aplicar una mirada crítica a les aparents bonances que les tecnologies comporten. Per aquest motiu, tant Domínguez com Adsuara observen amb recel les expressions abocades per Coxon sobre OpenAI i Anthropic i que aquesta última secunda. "Les mateixes empreses que venen aquests sistemes tenen interès a presentar-los com a tecnologies gairebé totpoderoses", considera la membre d'EDRi. "Això pot servir tant per atraure inversió com per reivindicar que només elles tenen capacitat per controlar-les".
Relacionat amb aquest tema
L'expert en estratègia digital fa una anàlisi similar. Admet que escolta aquests discursos "amb certa desconfiança". Això, matisa, no vol dir que no se'ls cregui. "Sí em crec que pot tenir molt de perill", admet. No obstant això, sospita que "s'està recorrent a missatges apocalíptics". Amb aquesta política comunicativa, "busquen dir: contracteu-nos per alliberar-vos dels que us poden atacar amb la nostra intel·ligència artificial", analitza Adsuara.
"Jo crec que estem en un moment fascinant de la història on tot és possible, el millor i el pitjor, però tot és possible", valora. Així, més que augmentar les dependències i vulnerabilitats de les nostres infraestructures crítiques implantant la IA en totes elles, Domínguez incideix que "cal decidir primer on volem usar aquests sistemes i on el risc és massa alt". Això al seu torn ha de venir acompanyat de regulacions independents, transparència en els processos i capacitat d'auditar tots els sistemes instal·lats.
Així mateix, abans d'omplir el món amb intel·ligència artificial i, a posteriori, comprar a les mateixes empreses les garanties de seguretat, Itxaso Domínguez planteja fer-se preguntes preventives. "Abans de preguntar-nos com fer segura una aplicació d'IA, hauríem de preguntar-nos si realment necessitem introduir-la aquí", conclou.
Sobre la firma
Comentaris dels nostres subscriptors
Per veure els comentaris dels nostres subscriptors, inicia sessió o registra't.