Quan la IA va deixar d'obeir: aquests són els atacs que han revifat la por a perdre el control

Les declaracions de Jacob Coxon, el jove de 27 anys que va dimitir aquesta setmana de la tecnològica Anthropic, han generat un clima de preocupació. L'exempleat va assegurar que els avenços de la IA podrien "matar-nos a tots" a finals de la dècada. En realitat, les veus crítiques porten temps advertint sobre els riscos d'aquestes eines, des dels biaixos socials que amplifiquen, fins als ciberatacs que poden posar en perill les infraestructures crítiques dels estats.

D'acord amb l'Informe internacional sobre la seguretat de la IA, publicat al gener de 2026 per un grup d'experts independents, "els avanços previs en la ciència i les capacitats de programació van generar major evidència sobre els riscos com a atacs cibernètics i biològics". També adverteix que "a mesura que augmenten les capacitats de la IA de propòsit general, sorgeixen gradualment evidències de riscos addicionals".

Se'ns està escapant de les mans la IA?

Un dels punts que més preocupació genera és la pèrdua de control. D'acord amb l'informe internacional, aquests escenaris són "futurs hipotètics" i apunta a un ampli consens entre els experts en què "la IA de propòsit general actualment no planteja aquest risc per no tenir les capacitats necessàries". No obstant això, hi ha tecnologies més avançades, com els anomenats agents d'IA. Aquests són models automatitzats capaços de dur a terme accions complexes amb la menor intervenció humana possible. Al juliol d'aquest any, OpenAI –creadora de ChatGPT – va piratejar de manera "accidental" a l'empresa de codi obert Hugging Face. Va succeir durant unes proves de seguretat i sense que els desenvolupadors ho haguessin ordenat.

Relacionat amb aquest tema

La carrera de la IA genera pànic entre els seus creadors pel risc de perdre el control: "Podria matar-nos"

Adhik Arrilucea

I quan no escapen al seu control, també poden ser emprades amb finalitats malicioses que poden produir danys severs sobre les societats i els estats. La IA pot ajudar a "reproduir armes biològiques i químiques conegudes, i facilitar el disseny de nous compostos tòxics", segons recull l'informe internacional. Si bé aquest és un cas extrem, existeixen altres formes en les quals aquesta tecnologia pot contribuir a complir objectius il·legals.

"La ciberdelinqüència es va expandint progressivament arribant a múltiples i variades manifestacions criminals", recull la Memòria Anual de la Fiscalia General de l'Estat 2025. I suposa ja "el 19,85% de l'activitat delictiva al nostre país, amb un índex de creixement del 5,3% respecte de l'any 2024", en referència a les dades proporcionades pel Balanç de Criminalitat del Ministeri de l'Interior corresponent al quart trimestre de l'any 2025."És inqüestionable, per tant, que una bona part de l'activitat criminal s'està desplaçant inexorablement a l'entorn digital", avisa el document.

Dels incidents d'OpenAI als d'Anthropic

Però no ha estat un cas aïllat. Aquell mateix mes, Anthropic va reconèixer tres incidents en què models de Claude, utilitzats en avaluacions de ciberseguretat, van sortir de l'entorn de proves, van accedir a internet i van aconseguir entrar sense autorització en sistemes reals de tres organitzacions. Als tres casos identificats inicialment, se suma un quart episodi de les mateixes característiques que va ocórrer en el passat mes de gener.

A diferència d'OpenAI, en totes les situacions es tractava d'un error i no específicament a una pèrdua de control. "A causa d'un malentès amb el nostre soci avaluador", indica la companyia, sí que tenia accés a internet -malgrat que en les instruccions donades a l'eina s'havia indicat el contrari-. Per aquest motiu, Claude va tractar tots els sistemes en els quals va entrar com si fossin part de l'exercici de prova.

Relacionat amb aquest tema

El problema de detectar els pisos buits a Catalunya: pot una IA ajudar a mobilitzar-los?

Oriol Daviu

"Operant sota la falsa creença que totes les entitats accessibles estaven incloses en l'abast de l'exercici, Claude va comprometre la infraestructura de les organitzacions afectades utilitzant tècniques bàsiques, com l'explotació de contrasenyes febles i punts finals no autenticat", va informar l'empresa. De totes maneres, assegura que “no va trobar ni explotar cap vulnerabilitat complexa”. En qualsevol cas, aquest tipus d'incidents revelen una certa fragilitat en les garanties de seguretat de la intel·ligència artificial.

Màquines més intel·ligents que els éssers humans?

Aquestes fragilitats augmenten a mesura que avancen els desenvolupaments tecnològics, com revela el cas d'OpenAI amb Hugging Face. És el que es coneix com "IA de frontera ", és a dir, les eines més noves de cada moment i que per tant, es troben en aquesta frontera de la innovació -una frontera que es desplaça contínuament-. Hi ha moltes especulacions sobre els camins que els desenvolupadors poden caminar per arribar als següents límits. I un d'ells és la superintel·ligència.

D'acord amb IBM, consultora i desenvolupadora tecnològica, la superintel·ligència artificial (ASI, per les sigles en anglès) és un sistema "amb un abast intel·lectual més enllà de la intel·ligència humana". Es tractaria d'una eina amb una capacitat de pensament superior a la de les persones i s'especula sobre la possibilitat que cobri consciència pròpia. No obstant això, des d'IBM recorden que "segueix sent un estat futur hipotètic", si bé reconeix que "hi ha diversos processos tecnològics que tenim avui dia que formen els components bàsics d'ASI".

En aquest context, cal preguntar-se si la humanitat desitja veritablement aquest desenvolupament. En aquest cas, i quan arribi, també ha de plantejar-se quin és el marc social i legislatiu en el qual s'aplicaria un sistema d'aquestes característiques.