Veus un vídeo d’una persona coneguda parlant directament a càmera. Reconeixes la seva cara, els seus gestos i la seva veu. Tot indica que és qui diu ser.
O participes en una videotelefonada amb diversos responsables de la teva empresa i reps instruccions per a realitzar una operació urgent. Sembla que t’ho està demanant el teu superior.
Fins fa poc, veure i escoltar a algú podia ser suficient per a confiar que realment era aquesta persona. Però amb un deepfake, aquesta certesa desapareix.
La intel·ligència artificial permet generar o manipular imatges, vídeos i àudios cada vegada més convincents. I aquestes tècniques ja s’estan utilitzant per a suplantar a persones conegudes, famosos, empresaris o familiars i fer més creïbles determinats fraus.
Què és un deepfake
INCIBE (Institut Nacional de Ciberseguretat) defineix els deepfakes com a vídeos manipulats mitjançant intel·ligència artificial que busquen fer creure que una persona ha realitzat declaracions o accions que mai van tenir lloc. Pots llegir més informació sobre deepfakes en INCIBE.
Aquesta definició se centra en el vídeo, però en la pràctica el terme abasta imatge, vídeo i veu. Un deepfake pot utilitzar-se per a modificar un rostre, crear fotografies aparentment reals, generar vídeos falsos o fins i tot suplantar l’aparença d’una persona durant una videotrucada.
La clonació de veu o deepvoice és una de les seves variants i avui una de les més utilitzades en fraus telefònics, perquè n’hi ha prou amb una mostra d’àudio molt breu per a obtenir un resultat convincent.
Vegem dos dels usos fraudulents més coneguts:
El frau del CEO
Un dels usos més preocupants dels deepfakes en l’àmbit empresarial és el frau del CEO, en el qual els delinqüents suplanten a un alt càrrec de l’empresa per a sol·licitar transferències, pagaments o altres operacions sensibles.
A Espanya, INCIBE ha registrat casos de frau del CEO amb ús de tècniques d’intel·ligència artificial, com la clonació de la veu d’una persona amb responsabilitats directives per a ordenar una transferència urgent.
En un d’ells, diversos empleats van rebre una trucada de qui semblava ser un dels principals CEO de l’empresa. La veu era pràcticament idèntica i el supòsit directiu va sol·licitar realitzar una transferència per a una operació urgent.
Dies després van descobrir que el CEO mai havia realitzat aquella crida. Veure el cas de frau amb clonació de veu publicat per INCIBE.
Un altre exemple cridaner d’aquestes tècniques de deepfake va ocórrer a Hong Kong.
En 2024, un empleat d’una multinacional va participar en una videoconferència en la qual aparentment eren presents diversos responsables de la companyia. Segons les autoritats d’Hong Kong, els delinqüents van utilitzar vídeos i veus disponibles públicament per a crear una reunió mitjançant tecnologia deepfake. L’empleat va autoritzar transferències per uns 200 milions de dòlars hongkoneses (aproximadament 23 milions d’euros).
Aquest cas reflexa fins a quin punt està evolucionant el frau del CEO. La suplantació ja no es limita a correus electrònics o missatges falsos: la intel·ligència artificial permet imitar la veu, la imatge i fins i tot la presència d’un directiu en una videotrucada.
Selva Orejón (@selvaorejon), especialista en identitat digital i ciberseguretat, adverteix precisament sobre aquesta mena de deepfakes en temps real, així com sobre l’ús de fotografies, vídeos manipulats i identitats sintètiques per a cometre fraus. Llegir l’entrevista a Selva Orellut sobre suplantació d’identitat amb IA en Cadena SER.
Deepfake de personatges públics
Però els deepfakes no s’utilitzen només dins de les empreses. També poden aprofitar la imatge de personatges públics o famosos per a generar confiança i fer més creïbles falses inversions, productes o serveis.
A l’agost de 2025, RTVE va alertar d’un vídeo manipulat mitjançant intel·ligència artificial en el qual aparentment apareixien la presidenta del Banc Santander, Ana Botín, i el periodista Marc Sala.
En realitat, es tractava d’un deepfake utilitzat per a promocionar una plataforma d’inversió fraudulenta. El muntatge manipulava la imatge i la veu de les persones que apareixien en el vídeo per a fer creure que recolzaven aquesta inversió. Aquí pots veure el desmentiment publicat per VerificaRTVE.
No és un cas aïllat. La Comissió Nacional del Mercat de Valors ha advertit sobre aquesta mena de vídeos que suplanten a figures públiques per a recomanar inversions fraudulentes, i recomana no facilitar dades personals ni diners a través d’ells.
Convé tenir present alguna cosa que sol passar-se per alt: moltes d’aquestes campanyes no consisteixen només en un vídeo. Es recolzen en pàgines web que copien la imatge corporativa d’un mitjà de comunicació o d’una entitat financera per a donar aparença de credibilitat a una notícia inventada. Per això, quan es tracta de conservar l’evidència, el vídeo sol ser només una part del que interessa acreditar.
Que algú aparegui en un vídeo promocionant una inversió ja no significa necessàriament que hi hagi participat en aquesta gravació.
Aquest tipus de frau aprofita la notorietat i credibilitat d’una persona coneguda per a aconseguir que la víctima confiï en una oferta, inversió o servei que en realitat no ha estat recomanat per ella.
Què exigeix la normativa europea
Des del 2 d’agost de 2026 s’aplica l’article 50 del Reglament Europeu d’Intel·ligència Artificial (AI Act), que estableix obligacions de transparència per a determinats continguts generats o manipulats amb IA.
En concret, l’article 50.4 exigeix que qui utilitzi un sistema d’IA per a generar o manipular imatges, àudio o vídeo que constitueixin un deepfake informe que aquest contingut ha estat generat o manipulat artificialment.
En la pràctica, això significa que, quan resulti aplicable aquesta obligació, un deepfake ha d’identificar-se com a contingut generat o manipulat amb IA. Això no impedirà que existeixin deepfakes fraudulents, però sí que fa especialment rellevant conservar com es va publicar el contingut, on apareixia i si estava o no identificat com generat amb IA.
Com detectar un possible deepfake
Els senyals visuals són cada vegada menys fiables. Fa dos anys bastava amb fixar-se en un parpelleig antinatural però avui molts muntatges superen aquest examen sense problema.
Els senyals que segueixen et poden ajudar a identificar-ho, però la decisió no hauria de basar-se mai en si un vídeo «es veu rar».
Què fer davant un possible deepfake
Davant una petició econòmica o especialment sensible:
I si detectes un possible deepfake, una suplantació o un intent de frau:
⚠️ Conserva l’evidència abans de denunciar o bloquejar.
Una vegada denunciat un perfil, vídeo o publicació, la plataforma pot retirar-lo o l’autor pot modificar-lo.
Per això, no convé conservar únicament el vídeo o la imatge.
També pot ser important guardar:
El context pot ser tan important com el propi deepfake.
En el nostre article Com Certificar Publicacions en Xarxes Socials pas a pas expliquem com conservar una publicació juntament amb el seu perfil i context.
Com usar SaveTheProof per a certificar les evidències
És important indicar que SaveTheProof no determina si una imatge o un vídeo és un deepfake.
Determinar tècnicament si un contingut ha estat generat o manipulat mitjançant intel·ligència artificial pot requerir l’anàlisi d’un perit informàtic especialitzat.
SaveTheProof permet certificar l’evidència digital relacionada amb el frau o la suplantació abans que pugui modificar-se o desaparèixer.
➡️ Si el deepfake està publicat en Internet
Amb un Certificat de Sessió de Navegació Web pots accedir al perfil, mostrar la publicació, reproduir el vídeo, realitzar captures, navegar pel contingut relacionat i descarregar arxius.
Si disposes de correus electrònics relacionats amb el frau i el compte té accés web des d’Internet, també pots accedir a ells i certificar-los durant la sessió.
Tota la navegació queda registrada en vídeo, inclòs l’àudio reproduït durant la sessió.
Així pots conservar no sols una captura aïllada, sinó també com es mostrava el contingut, on estava publicat i el seu context.
➡️ Si només disposes del vídeo o arxiu d’àudio
Si el contingut ja no està publicat en Internet, però disposes de la imatge, vídeo, àudio o document relacionat, SaveTheProof no pot certificar el seu origen. No obstant això, pots utilitzar el Certificat de Fitxer per a acreditar que aquest arxiu estava en poder de la persona que el va certificar en el moment de la certificació.
El certificat incorpora, entre altres dades, el hash SHA-256 del fitxer, la qual cosa permet verificar posteriorment la seva integritat i comprovar que no ha estat modificat.
La certificació amb SaveTheProof et permet conservar l’evidència. L’anàlisi d’una possible manipulació mitjançant intel·ligència artificial pot requerir d’una anàlisi pericial.
👉🏻 Abans de denunciar, conserva l’evidència
Un vídeo pot haver estat generat mitjançant intel·ligència artificial.
I les persones que apareixen en una videotelefonada poden no ser els qui semblen.
Per això, si detectes un possible deepfake, a més de verificar la situació per altres canals, és important conservar les evidències digitals abans que puguin desaparèixer.
SaveTheProof permet certificar pàgines web, sessions de navegació i fitxers mitjançant certificats amb signatura electrònica avançada i segell de temps qualificat conforme al Reglament eIDAS.
No depenguis del fet que el contingut continuï en línia. Certifica l’evidència abans que canviï o desaparegui.
Tens dubtes? Escriu-nos a [email protected] o utilitza el xat en la web. Estarem encantats d’ajudar-te. 😉
