De Spaanse autoriteiten hebben een waarschuwing uitgegeven nadat oplichters AI-gegenereerde video's op TikTok gebruikten om zich voor te doen als prinses Leonor, de 20-jarige troonopvolger van Spanje, in een online fraude gericht op sociale mediagebruikers.
De nepaccounts tonen realistisch ogende video's van "Leonor" die duizenden dollars aan financiële hulp belooft in ruil voor een voorafbetaling van enkele honderden dollars. Slachtoffers die betalen worden vervolgens gevraagd om extra betalingen voordat de oplichters verdwijnen, aldus de Princess of Asturias Foundation.
Gemaakt afbeelding van een frauduleuze TikTok-video gemaakt met AI, waarin wordt beweerd prinses Leonor te tonen
De stichting benadrukt dat noch zij, noch Princess Leonor programma's runt die geld, subsidies of persoonlijke financiële steun aanbieden, en noemt al deze berichten "volledig vals." Een onderzoek van El País (via The Guardian) wees uit dat telefoonnummers die aan de zwendel gekoppeld zijn, werden herleid tot de Dominicaanse Republiek, waarbij sommige video's meer dan een miljoen keer werden bekeken.
Ondanks de regels van TikTok die imitatie en frauduleuze activiteiten verbieden, meldde de krant dat herhaalde klachten over de nep-Leonor-accounts werden afgewezen, waarbij het platform verklaarde dat de inhoud niet in strijd was met het beleid van de inhoud. Dit benadrukt de groeiende zorgen over AI-gedreven imitatiefraude, omdat steeds realistischer gemaakte nepvideo's het voor gebruikers moeilijker maken om officiële cijfers te onderscheiden van geavanceerde fraude.
