Així t'estafen els curanderos creats per IA que venen falsos remeis miracle a les xarxes

Un avi entranyable assegura a les xarxes socials que els remeis de tota la vida funcionen millor que "els químics del supermercat"; un mestre oriental revela secrets de sanació i una monja dona consells sobre com curar els gasos o el mal alè. Tenen milers de seguidors i likes, tot un públic que confia en els seus consells i remeis i que estan disposats a comprar els productes que ofereixen. No obstant això, aquests personatges no existeixen; estan creats amb intel·ligència artificial.

Una investigació de Maldita.es ha localitzat almenys 16 comptes d'aquest tipus a Facebook i Instagram, els quals ja tenen milers de seguidors i milions de likes. El modus operandi és sempre el mateix, els personatges llancen missatges alarmistes sobre la salut o sobre la falta de necessitat de medicar-se amb fàrmacs, apel·len als remeis casolans i acaben compartint un enllaç que condueix a una botiga online on venen llibres amb aquests remeis per uns 12 euros.

Alguns perfils com @eduardo.holisticovida o @sofia.saludencasa fins i tot s'autodenominen "experts en salut" i prometen solucions a malalties sense recórrer a un metge, com acabar amb el mal de genolls o aconseguir un abdomen pla a força de remeis naturals. L'èxit d'aquests perfils -i d'altres similars com Paco del Campo o Sor Catalina que venen benestar "tradicional"- resideix a explotar figures que desperten confiança de forma gairebé automàtica.

Aquests comptes utilitzen personatges ficticis que aconsegueixen convèncer l'usuari per comprar un producte, una pràctica que, segons l'advocat especialitzat en dret digital Borja Adsuara, pot constituir un delicte d'estafa o de publicitat enganyosa. "Si s'indueix el consumidor a comprar mitjançant l'engany, podria existir una estafa o, com a mínim, publicitat enganyosa. A més, quan aquests avatars apareixen vestits de metges o aparenten una qualificació professional que no posseeixen, fins i tot podria plantejar-se un supòsit d'intrusisme professional", aclareix.

L'expert recorda que es tracta del mateix engany que si ho fes una persona de carn i ossos que es dediqués a divulgar informació sobre salut sense els coneixements o l'evidència científica, només que en aquest cas cal investigar qui és la persona que està darrere d'aquests perfils.

Aquests continguts poden posar en risc la vida de les persones

També alerta que el perill no acaba en el perjudici econòmic. "En el millor dels casos aquests continguts afecten la butxaca. En el pitjor, poden posar en risc la vida de les persones. Si algú abandona un tractament mèdic perquè un suposat curandero li convenç que unes plantes medicinals són suficients, les conseqüències poden ser dramàtiques", denuncia.

La Federació de Consumidors y Usuaris (CECU) destaca que ocultar el caràcter comercial d'aquests continguts i atribuir propietats curatives a productes sense suport científic pot vulnerar la normativa de consum, a banda que el Reglament europeu de Serveis Digitals obliga a plataformes com Meta a avaluar i reduir els riscos sistèmics derivats d'aquest tipus de pràctiques.

Venda de suposats articles artesanals

Però l'ús de la IA per vendre productes no es limita a l'àmbit de la salut, sinó que també fan servir suposats nens malalts per vendre productes artesanals elaborats per ells mateixos o gent gran que ploren perquè ningú compra les seves creacions. No obstant això, els articles que promocionen poden trobar-se molt més barats en plataformes com Temu, Amazon o AliExpress. La realitat és que aquests personatges també estan creats per IA o s'utilitzen imatges d'altres persones, alienes a aquests comptes, per vendre els productes.

Facua-Consumidors en Acció ha denunciat davant la Direcció General de Consum del Ministeri de Drets Socials, Consum i Agenda 2030 una pàgina web que comercialitza testos utilitzant com a ganxo comercial a un jove amb síndrome de Down generat amb intel·ligència artificial. En els vídeos, que difonia a TikTok fins que el seu compte va ser suspès, es veia el jove plorant per no vendre testos, buscant connectar amb l'espectador per aconseguir que compressin els productes moguts per la compassió.

El frau no sempre està en el producte, perquè pot arribar-te a casa un test real, però l'engany consisteix a fer creure al consumidor que l'ha fabricat un nen amb síndrome de Down per despertar la seva compassió. Això és publicitat enganyosa i és una estratègia repugnant perquè explota el sofriment, encara que aquestes persones ni tan sols existeixin. Se les inventen", denuncia Rubén Sánchez, secretari general de l'organització.

Per la seva banda, CECU recorda que, al costat d'associacions de consumidors de 27 països, va denunciar recentment davant la Comissió Europea l'escassa resposta de Meta, TikTok i Google davant de centenars d'anuncis fraudulents detectats en les seves plataformes. En aquella investigació, més de la meitat de les denúncies van ser ignorades.

Com reconèixer personatges creats per IA?

Raquel Ruiz Incertis, investigadora predoctoral en Comunicació i professora de Periodisme de la Universitat Carlos III de Madrid, explica que encara hi ha algunes pistes visuals que permeten sospitar d'un contingut sintètic, com anomalies en els fons, moviments poc naturals, alteracions facials o jocs estranys de llums i ombres. No obstant això, reconeix que aquests indicis estan canviant a una velocitat molt ràpida atès que la qualitat de la IA ha millorat de manera "impressionant". "Ja no n'hi ha prou només amb fixar-se en errors visuals, cal desconfiar de perfils desconeguts que prometen solucions miraculoses, comprovar si la persona realment existeix fora d'aquest compte i contrastar la informació. I en matèria de salut, cap vídeo en xarxes hauria substituir el criteri d'un professional o d'una font científica", assenyala.

Mentre que el portaveu de Facua insisteix que no cal assenyalar als consumidors, sinó que és necessari que tant les plataformes com les administracions nacionals redoblin els seus esforços per perseguir aquest tipus de qüestions. Considera que cal més personal tècnic especialitzat en investigar aquests delictes i fraus online.

La investigadora coincideix en la responsabilitat de les plataformes perquè aquest tipus de vídeos deixin de circular lliurement a les xarxes. "No es tracta de frenar la innovació en intel·ligència artificial, sinó d'exigir transparència. Instagram o Facebook haurien d'identificar clarament els continguts generats artificialment, reforçar la detecció de comptes que difonen desinformació i actuar molt més ràpid quan aquests missatges afecten la salut o la seguretat dels usuaris", sosté.