Saps distingir si aquestes cares són reals o fetes amb IA? Aquesta és la clau per detectar 'deepfakes'

Les primeres imatges generades per intel·ligència artificial eren evidents. L'artifici estava més que a la vista: mans amb sis dits, ulls a altures diferents, ganyotes desencaixades i una infinitat de desperfectes que ens permetien reconèixer-les. Però el panorama ha canviat en gran mesura. La tecnologia s'ha tornat molt més sofisticada i distingir la realitat de la ficció s'ha tornat molt més difícil. D'aquesta manera, la ciutadania corre el risc de caure en els deepfakes, els rumors i noves formes de desinformació. Per fer front a aquestes amenaces, una nova investigació ha dissenyat un entrenament que permet distingir rostres humans de rostres digitals. Es tracta d'una capacitat que es desenvolupa a través de la intuïció i l'experiència.

"Encara que els algoritmes poden detectar els deepfakes, pateixen opacitat i vulnerabilitats greus, i la formació de persones per identificar artefactes visuals específics ha resultat ser, en gran mesura, ineficaç", indica l'estudi, publicat a la revista Proceedings of the National Academy of Sciences (PNAS). "La IA s'està tornant massa bona i, en qualsevol cas, els estafadors poden evitar utilitzar imatges amb errors obvis", expressa la investigadora principal, Amy Dawel, del Laboratori d'Emocions i Rostres de la Universitat Nacional d'Austràlia.

Relacionat amb aquest tema

Qué puede hacer la Unión Europea para impedir que la IA sea una amenaza para la pluralidad informativa

Adhik Arrilucea

L'equip científic va entrenar 45 persones per identificar rostres generats per IA mitjançant un mètode diferent. Els autors van instruir els participants perquè se centressin en qualitats globals que diferencien els rostres generats per IA dels reals, com la simetria, la proporcionalitat, l'atractiu, l'expressivitat, la singularitat i la capacitat de recordar. Els participants no van rebre instruccions explícites sobre com detectar les cares artificials, però van aprendre a utilitzar aquestes qualitats globals de manera efectiva.

L'ingredient secret de la intuïció humana

La precisió per detectar imatges creades per IA gairebé es va duplicar amb l'entrenament, i els participants amb millor acompliment van aconseguir una capacitat gairebé perfecta. I aquesta habilitat no té res a veure amb fixar-se en elements artificiosos. "No tenim una llista de verificació, i aquest és l'ingredient secret de la nostra formació", declara a Público Amy Dawel. "El nostre enfocament formatiu té un gir deliberat: no diem a la gent què ha de buscar, ja que els criteris queden ràpidament obsolets".

En lloc d'establir criteris estancs, "exposem els participants a rostres generats per IA i a rostres humans autèntics, alhora que dirigim la seva atenció cap a les qualitats que distingeixen els uns dels altres", explica l'experta. "A través de l'exposició repetida, els participants desenvolupen un sentit intuïtiu per detectar els rostres generats per IA, de la mateixa manera que les habilitats o l'expertesa solen desenvolupar-se a través de l'experiència més que mitjançant regles explícites".

L'article científic proposa que "les impressions generals de les persones són implícitament sensibles a les diferències sistemàtiques entre els rostres generats per IA i els rostres humans". Això fa que un entrenament basat en el consum quantitatiu d'imatges tingui conseqüències de caràcter qualitatiu. Tenint això en compte, l'equip d'investigació ha mostrat que la manera com una persona pot desenvolupar l'habilitat d'identificar una foto real o un deepfake és a partir de la pràctica. Aquesta seria la clau de la formació proposada en l'estudi.

Relacionat amb aquest tema

Un David aragonés contra el Goliat de la IA: así es la primera batalla contra los centros de datos en España

Pablo Jiménez Arandia

Les característiques que distingeixen els rostres reals dels digitals són globals. En concret, els generats per intel·ligència artificial “tendeixen a ser més simètrics, proporcionats i atractius, però sense entrenament solem pensar que aquestes són característiques pròpies d'un ésser humà”. D'aquesta manera, les persones que van participar en l'estudi van dirigir la seva atenció a sis qualitats perceptives: distinció, facilitat per recordar-los, proporcionalitat, simetria, atractiu i expressivitat. "Va ser sorprenent veure la millora dràstica en la capacitat de les persones per detectar rostres generats per IA", declara Dawel.

L'efectivitat de l'ull humà per detectar la IA

La investigació va ser repetida amb èxit per un equip dirigit per Jim Tanaka i Eric Mah, investigadors de la Universitat de Victoria, al Canadà. "La replicació demostra que les troballes no van ser una casualitat: quan vam capacitar un nou grup de persones en un país diferent, vam veure que van millorar en la mateixa mesura", valora Mah. "La formació en línia va ser eficaç, de manera que el nostre programa de formació es podria implementar fàcilment a gran escala i a baix cost".

De fet, l'entrenament va semblar començar a donar resultats en el curt termini. L'estudiant Tanya George, de la Universitat d'Austràlia, va treballar al costat de Dawel en l'experiment amb els participants. "Vam descobrir que fins i tot les sessions d'entrenament relativament curtes van ajudar els participants a millorar la seva precisió de detecció de rostres generats per IA, cosa que posa en relleu el potencial de les eines educatives pràctiques en aquest àmbit", informa en un comunicat. "La tecnologia de generació d'imatges mitjançant IA està millorant a un ritme vertiginós, i molta gent subestima el realisme d'aquests rostres. Investigacions com aquesta poden ajudar les persones a desenvolupar-se en entorns en línia cada vegada més complexos", afegeix.

La importància de formar persones

Dawel considera important millorar les capacitats de detecció de la intel·ligència artificial per part dels humans, ja que no es pot confiar que la tecnologia resolgui el problema per si sola. "Si bé els algoritmes ofereixen una solució per detectar rostres falsificats mitjançant deepfake, els seus processos de presa de decisions segueixen sent opacs i les recents proves comparatives revelen greus deficiències", afirma. Per contra, les persones compten amb una mena d'avantatge epistèmic per donar compte de les creacions digitals.

"Els éssers humans comptem amb dos avantatges clau a l'hora de detectar la IA", explica. "En primer lloc, a causa del nostre caràcter tan social, el nostre cervell ha evolucionat al llarg de milions d'anys per captar les característiques que diferencien la intel·ligència artificial dels rostres reals. Tot i que no utilitzem de forma natural aquestes característiques per detectar rostres generats de manera digital, la nostra formació ens ensenya a fer-ho”, explica. El segon avantatge té a veure amb el fet que “a diferència dels algoritmes, els éssers humans podem explicar les nostres decisions, la qual cosa és important per garantir la confiança en el procés”.

Enfront de la desinformació, alfabetització

La proliferació de rumors i desinformació per mitjà del desenvolupament tecnològic és una creixent preocupació social i política. És per aquest motiu que el Govern central i la Comissió Europea han començat a legislar sobre aquests assumptes i de manera concreta en matèria d'IA. D'aquesta manera, busquen garantir la transparència del seu ús per evitar enganys o fraus que puguin desorientar la població. Així mateix, l'alfabetització digital continua sent un dels objectius fonamentals per garantir l'autonomia i l'emancipació de totes les persones. En aquest aspecte, el present estudi busca donar una resposta a les necessitats formatives que comporta l'avanç de les tecnologies disruptives.

L'experta posa en relleu la necessitat d'"enfocaments que siguin ètics i explicables", de manera que "resulta fonamental mantenir la ciutadania informada". Es tracta d'una tasca que es complica a mesura que avança la sofisticació tècnica de les eines digitals per crear imatges realistes. En aquest sentit, Dawel considera que el seu mètode formatiu és útil en un context on tot queda ràpidament obsolet. "La nostra formació té el potencial de mantenir-se al dia amb només actualitzar les imatges que s'utilitzen en ella", assenyala. "La informació està en els mateixos rostres, i sembla que els éssers humans som molt bons a l'hora d'aprendre de forma intuïtiva".