AI-stemklonenzwendel lijkt de volgende grote trend te zijn
Alles wat je nodig hebt is een audioclip van 5 seconden van iemand.
Elke nieuwe technologie opent kansen voor fraude, en AI vormt daarop geen uitzondering. En door AI geleide fraudepraktijken zijn zo divers als lucratief, waardoor tricksters elke maand duizenden dollars kunnen verdienen, zoals WCCFTech meldt.
Een Chinese AI-gebruiker verdient blijkbaar elke maand tot wel 100.000 yuan (ongeveer $15.000) via AI-muziektools. En het proces is vrij eenvoudig. Upload een afbeelding die het thema van het nummer bepaalt, kies een muziekgenre, voeg zang toe na het kiezen van een zangstijl, en de laatste stap is het uploaden van de minutenlange poging naar een muziek- en kortvideoplatform voor monetisatie.
Nu waarschuwen de autoriteiten in China mensen voor een nieuwe fraude, die de stem van je vrienden en familie kan klonen met een audioclip van vijf seconden van hun stemmen. Deze gekloonde stemmen worden vervolgens gebruikt om geld te eisen, soms wel 4,3 miljoen yuan (ongeveer $635.000).
In een wereld waarin we onze ogen en oren niet langer kunnen vertrouwen om te bepalen wat echt is en niet, zal AI ons dan helpen beschermen tegen zijn eigen aanvallen? We zullen moeten afwachten.
