La maquinària ultra per 'fabricar' racisme amb IA: "Van passar de la bola artesanal a l'enginyeria de l'odi"

Una dona d'origen àrab afirma en una entrevista al carrer que si Vox guanya les eleccions haurà de tornar al seu país perquè ella no treballa i "s'acabaran les ajudes". El vídeo dura tot just uns segons però són milers les reaccions, comentaris i compartits sobre ell a X i TikTok. Només hi ha un matís: l'escena no va passar mai perquè la dona no existeix. El vídeo ha estat creat amb intel·ligència artificial.

Tampoc és real un altre dels clips, amb més de 49.000 visites, que han circulat amb força en xarxes socials aquesta setmana, en què una suposada presentadora d'informatius assegura que "el Marroc estaria estudiant alliberar milers de presos perquè emigressin a Espanya després de la regularització massiva".

Plataformes de verificació com Maldita.es han desmentit ja desenes de vídeos similars: peces creades amb IA i difoses des de comptes vinculats a entorns ultres, amb un clar objectiu de criminalitzar persones migrants. En alguns dels casos, el perfil original inclou a la part inferior l'advertència de "contingut generat per IA", per a alguns invisible ja que en els comentaris es pot llegir a usuaris expressant la seva indignació al respecte d'una informació completament falsa.

José Patricio Pérez-Rufí, professor del Departament de Comunicació Audiovisual i Publicitat de la Universitat de Màlaga, adverteix que aquests vídeos representen un risc diferent en la difusió d'odi i racisme, ja que "aporten cos de realitat a fets que mai han passat. La imatge en moviment acostuma a percebre's com a prova, en considerar que si ho han vist té major credibilitat i fa que moltes persones dubtin menys, contrastin menys i contextualitzin menys el que circula en xarxes", assenyala Público.

Pérez-Rufí considera que la IA s'ha convertit en una eina clau per a la ultradreta en la seva batalla pel relat. Els perfils ultres busquen generar odi mitjançant vídeos i informació falsa que, segons explica el professor, transforma un marc ideològic previ en "evidència audiovisual" que reforça l'aparença de legitimitat del discurs extremista. "Permet materialitzar qualsevol projecció imaginària: escenes de suposats delictes, altercats, invasions o amenaces atribuïdes a col·lectius racialitzats, generades amb gran detall i coherència audiovisual, encara que siguin completament fictícies", explica.

Per a alguns, el caràcter fictici del contingut és conegut, però tot i així el difonen per il·lustrar les seves idees en forma de mem, utilitzant-lo com a eina d'expressió política que sota l'anonimat i la viralitat de les xarxes poden facilitar la normalització de discursos racistes i xenòfobs. El problema es torna encara més greu quan aquests vídeos arriben a perfils de polítics en actiu, com el mateix president dels Estats Units, Donald Trump, que difon les seves opinions i campanyes polítiques amb imatges i vídeos generats per la IA. Fa tan sols uns dies el republicà va compartir a la seva plataforma Truth Social un vídeo generat amb IA on apareixien Barack Obama i Michelle Obama representats com a micos.

També passa a Espanya: l'organització Afroféminas va denunciar la setmana passada que el senador del PP Carmelo Romero va compartir en el seu compte oficial de Facebook diversos vídeos racistes generats amb IA procedents del perfil Amego Segarro que supera els 11.000 seguidors a TikTok.

Un d'ells alertava que "milers de pasteres" es preparaven per sortir cap a Espanya després de la regularització extraordinària. "No és banal. Que un senador del PP difongui vídeos falsos que criminalitzen als qui treballen en els camps de la seva pròpia província és d'una irresponsabilitat extrema", denuncien des d'Afroféminas.

L'organització destaca a més el fet que Romero va ser alcalde de Palos de la Frontera durant 30 anys, un municipi marcat per la precarietat laboral de persones migrants i per assentaments barraquistes que han patit incendis recurrents. "La desinformació no és només un bot; és el polític que prem compartir i alimenta el conflicte social. La comunitat migrant pateix les conseqüències reals d'aquests vídeos virtuals. Demanem responsabilitat i que les institucions actuïn contra la difusió de delictes d'odi", denuncien.

Relacionat amb aquest tema

De compararlos con los Pokémon a llamarlos "animales": así deshumaniza Trump a los migrantes

Laura Anido

Daniel Catalán, catedràtic de Comunicació a la Universitat Carlos III de Madrid i col·laborador d'ACNUR, explica que "el perill real no és només la desinformació, sinó l'erosió de l'empatia". A parer seu, quan la ciutadania deixa de distingir entre el real i el simulat, "acaba per desconfiar dels testimonis legítims dels que fugen de la guerra", el que debilita "el consens humanitari i el teixit democràtic que sosté drets com el d'asil".

Han passat de la faula artesanal a l'enginyeria de l'odi. Utilitzen la intel·ligència artificial per al que s'anomena blanquejament discursiu. Saben que els sistemes de recomanació premien la interacció, per això inunden les xarxes amb aquests vídeos, que en les primeres 24 hores aconsegueixen una validació social massiva mitjançant comptes automatitzats o bots que simulen un consens ciutadà inexistent", apunta. El resultat, resumeix, és "una pinça perfecta: tecnologia d'avantguarda posada al servei dels prejudicis més antics".

L'Observatori Espanyol del Racisme i la Xenofòbia (OBERAXE) ha detectat un augment molt marcat del discurs d'odi racista durant 2025, especialment en xarxes socials. Entre juliol i setembre es van registrar més de 331.000 continguts d'odi dirigits majoritàriament a persones del nord d'Àfrica (79%), musulmans (16%) i grups afrodescendents (8%).

Increment de notícies falses després de la regularització

Des de l'anunci de la regularització extraordinària, aquest tipus de rumors no han deixat de créixer. La seva difusió sota aquest context ha reforçat les fake news que asseguren que aquestes persones acaparen les ajudes públiques o que la mesura respon a un càlcul electoral, en assegurar falsament que els migrants regularitzats podran votar en les pròximes eleccions.

Res més lluny de la realitat. Les persones estrangeres no accedeixen de forma preferent ni a un major nombre de prestacions que la població espanyola. De fet, un informe de l'Observatori de les Migracions de Barcelona assenyala que l'Estat protegeix sis vegades més a les persones nascudes a Espanya que a la població migrant, ja que prestacions com les pensions de jubilació o el subsidi per desocupació requereixen una situació laboral regularitzada i diversos anys de cotització, requisits que també s'apliquen a les prestacions per incapacitat o a les ajudes per maternitat i paternitat. En el cas de l'Ingrés Mínim Vital, a més, és imprescindible comptar amb la nacionalitat espanyola o amb residència legal.

Relacionat amb aquest tema

El Parlamento Europeo endurece su política de asilo para deportar a migrantes a países donde nunca han estado

Laura Anido

Tampoc és cert que la regularització permeti votar en eleccions generals, ja que per participar en els comicis és essencial tenir la nacionalitat espanyola. A més, per accedir a aquesta regularització s'exigeix haver residit de forma continuada a Espanya durant, almenys, cinc anys abans del 31 de desembre de 2025, de manera que aquest requisit desmunta la idea d'un suposat "efecte crida", ja que els que arribin posteriorment no podran acollir-se a la mesura.