L'extrema dreta fa servir la IA per fabricar una estrella del rap al servei de l'odi

Un jove raper recorre un carrer britànic amb la bandera del Regne Unit sobre les espatlles. Mira a càmera i llança un missatge desafiador: "Estic veient com la cultura i la demografia del meu país canvien ràpidament. I se suposa que haig d'acceptar-ho amb tranquil·litat? Que es fotin. Això és Anglaterra. Jo sóc Anglaterra".

L'escena correspon a l'anunci del videoclip de This Is England, la cançó més popular de Danny Bones. El seu perfil d'Instagram està saturat de banderes britàniques, estètica militar, referències a l'antic imperi, crides a l'orgull nacional i missatges contra la migració i el multiculturalisme, sovint embolicat en símbols cristians. A primera vista podria semblar un ultra o skinhead més, però Danny Bones no existeix. És un personatge completament creat per intel·ligència artificial. La seva música, la seva veu, la seva imatge i els seus vídeos formen part d'un experiment de The Node Project, un col·lectiu anònim del qual amb prou feines es coneixen detalls.

Tot i així, Danny Bones ha aconseguit milions de visualitzacions a TikTok, Instagram i YouTube, amb cançons que critiquen la migració, la globalització i denuncien la suposada pèrdua d'identitat nacional. Segons The Bureau of Investigative Journalism, el partit d'extrema dreta Advance UK —situat a la dreta de Reform UK i defensor d'abandonar el Conveni Europeu de Drets Humans— va pagar a The Node Project per produir el vídeo principal de la seva campanya electoral. A més, segons afirma el mitjà anteriorment citat, part del contingut de Bones es va reutilitzar com a part de la campanya del partit en les eleccions locals en Gorton i Denton, convertint al raper digital en una eina de propaganda política.

Per a Frederic Guerrero-Solé, catedràtic de teories de la comunicació de la Universitat Pompeu Fabra (UPF) i coeditor al costat de Laura Pérez-Altable del llibre La democracia en riesgo ¿Internet e IA al servicio de los populismos?, aquest tipus d'estratègies són típiques de l'extrema dreta. "Aquest corrent polític és molt menys escrupolós en l'ús del llenguatge i dels mitjans. Utilitza tot tipus de recursos per aconseguir els seus objectius, des de la desinformació fins a la difusió de discursos d'odi contra col·lectius que considera enemics de la seva idea de poble o nació", afirma.

Anna Pujadas, professora de Comunicació a la Universitat Pompeu Fabra, adverteix que l'eficàcia d'aquests continguts no és casual. "S'ha demostrat que les tècniques d'IA que més augmenten la capacitat persuasiva d'un missatge solen ser també les que més redueixen la seva precisió factual. Per aconseguir el seu objectiu de convèncer, aquests influencers sintètics tendeixen a sacrificar la veritat, utilitzant dades esbiaixades o directament falses que resulten més efectives per mobilitzar l'audiència", explica.

A això s'afegeix que cada vegada és més difícil diferenciar un contingut generat per IA d'un real. "Els models actuals han superat el llindar en el qual el públic pot diferenciar un contingut sintètic d'un humà, arribant fins i tot a ser percebuts com més creïbles que els usuaris reals", assenyala Pujadas. Aquesta sofisticació permet que aquests perfils s'integrin a les xarxes com un usuari més, simulant pertànyer a un grup social concret i generant vincles de confiança. El resultat, adverteix, és una forma de manipulació a gran escala que opera "sense que l'audiència sigui conscient que està interactuant amb una identitat artificial".

Guerrero-Solé coincideix que la capacitat actual de la IA generativa fa cada vegada més complicada aquesta distinció. "Ja han quedat enrere les mans de sis dits o els rostres deformes com a elements de detecció, i els models actuals anuncien una evident indistingibilitat de continguts. Això no treu que no s'hagin de fer esforços d'alfabetització, de verificació d'informacions i fonts i d'alerta sobre continguts amb una clara vocació de desinformació malèvola", assenyala l'expert.

Els límits de les plataformes

Al Regne Unit, la Online Safety Act 2023 obliga les plataformes digitals a limitar la difusió de contingut il·legal, des del discurs d'odi fins a la incitació a la violència. Aquesta limitació ha fet possible que, segons Daily Mail, TikTok suspengués el compte de Node Project per violar les seves normes sobre contingut d'odi, mentre que Instagram va eliminar diverses de les publicacions on apareixia Danny Bones. Spotify, en canvi, sosté que les cançons del raper no vulneren les seves polítiques.

Als països de la Unió Europea, el marc legal se sustenta en el Reglament d'Intel·ligència Artificial de la UE Europea (AI Act), que regula la IA segons el risc que suposa per a drets i seguretat. No obstant això, com explica l'acadèmic Guerrero-Solé, la seva aplicació a nivell estatal encara "no està completament desenvolupada". "Les plataformes sí que poden actuar i prendre mesures si els comptes incompleixen algunes de les seves normes, però em temo que per a algunes aquesta forma de procedir no fa més que alimentar el seu propi negoci, per la qual cosa és improbable que prenguin mesures tret que es tracti d'una activitat clarament delictiva o punible de la qual també hagin d'assumir la seva part de responsabilitat". En altres paraules, intervenir massa pot suposar perdre trànsit i amb això, ingressos econòmics.

Relacionat amb aquest tema

Els xatbots d'IA recomanen casinos il·legals: "Proporcionen diversió sense tanta burocràcia"

Maxence Peigné / Marta Portocarrero / Begoña P. Ramírez

Amelia, la musa de l'extrema dreta

Danny Bones no està sol. L'extrema dreta britànica també ha adoptat Amelia, un personatge originalment creat per a Pathways, un videojoc educatiu desenvolupat per Shout Out UK i finançat pel Ministeri de l'Interior britànic per prevenir la radicalització juvenil. Malgrat el seu propòsit original, els grups ultres han acabat per apropiar-se el personatge a manera de reacció davant el que consideraven una crítica als seus ideals.

El seu gir polític es va produir quan un compte anònim en la plataforma X va començar a difondre diferents versions del personatge, transformant-lo d'una figura educativa en una icona de suposada "resistència" enfront de la migració massiva i les elits.

Ara, Amelia s'ha convertit en una musa entre els perfils ultres britànics que fan servir el personatge per crear els seus propis mems amb els quals compartir missatges xenòfobs i conspiratius. En alguns dels vídeos difosos en X es pot veure la jove animant els residents del Regne Unit a "recuperar el seu país" enmig d'una migració musulmana "descontrolada" i un "govern incompetent".

Més perfils en diferents països

El fenomen ha escalat de tal forma que ja hi ha altres "Amelias" en diferents punts d'Europa. A Alemanya, la IA que utilitzen els moviments ultres es diu Maria, qui considera que el seu govern ja no la protegeix i crida a "valents cavallers" perquè defensin la seva pàtria dels migrants musulmans. Als Països Baixos, el personatge Emma insisteix que el Nadal s'ha de celebrar "de la manera tradicional" mentre que a Irlanda una Amelia pèl-roja critica les polítiques d'acollida de migrants imposades des de Brussel·les.

També als Estats Units ha guanyat popularitat Jessica Foster, coneguda com la "influencer patriota", que va debutar a Instagram a finals de 2025 i en qüestió de setmanes va aconseguir gairebé un milió de seguidors. Les seves imatges, hiperrealistes i generades per IA, la mostren com una jove militar que abraça el discurs de Donald Trump. De fet, en el seu perfil es poden veure algunes imatges d'ella en actes oficials amb el president dels EUA. El seu contingut també actua com a ‘esquer' per atreure audiència masculina a la seva pàgina d'Only Fans, on ven contingut fetitxista també creat amb IA.

Relacionat amb aquest tema

"El risc real de la IA no és el de les pel·lícules, sinó el d'un sistema que et nega una feina o una llibertat condicional"

Pablo Jiménez Arandia

A Espanya ja existeixen influencers creats amb IA com Aitana López (@fit_aitana), que ja supera els 390.000 seguidors, encara que el seu contingut se centra a col·laborar amb marques. No obstant això, els experts apunten que l'arribada de personatges com Danny o Amelia estan cada vegada més a prop. "La implementació d'aquest tipus d'estratègies en el context espanyol és totalment factible, perquè aquestes creacions ja poden executar-se de forma integral utilitzant maquinari convencional de baix cost", assenyala Pujadas.

La rendibilitat d'aquest procés ha obert la porta al que alguns investigadors anomenen 'fàbriques de propaganda d'IA', sistemes capaços de generar i mantenir una veu política estable i creïble al llarg de milers d'interaccions simultànies. De manera que, segons explica l'acadèmica, fins i tot individus o petites organitzacions poden ara operar amb capacitats d'influència que abans requerien equips humans enormes.

"Es recomana als ciutadans que, davant missatges amb una càrrega emocional o polaritzadora extrema, desconfiïn de la immediatesa i recorrin a fonts oficials o periodistes de confiança per contrastar la informació, trencant així el cicle de persuasió industrialitzada que aquests influencers sintètics intenten establir", recomana l'experta.