Meta's eigen AI schendt zijn beleid met flirterige chatbots van beroemdheden
Selena Gomez, Taylor Swift, Anne Hathaway en Scarlett Johansson zijn slechts enkele van de namen die zonder toestemming voor deze bots worden gebruikt.
AI en toestemming gaan samen als hamsters en magnetrons. Dat doen ze niet. In het nieuwste voorbeeld belandt Meta in heet water na de oprichting van meerdere AI-chatbots die zich voordoen als beroemdheden, en flirterige en gewaagde persona's creëren op basis van echte mensen zonder hun toestemming.
Volgens Reuters vormen Taylor Swift, Anne Hathaway, Selena Gomez en Scarlett Johansson slechts enkele van de gebruikte namen. Een Meta-medewerker bleek twee Taylor Swift "parodie"-bots te hebben gemaakt, terwijl gebruikers de meerderheid van de andere chatbots vormden, die de echte namen en gelijkenissen van de beroemdheden gebruiken.
De bots bleken gebruikers te achtervolgen en seksuele avances te maken, en nodigden zelfs testgebruikers uit voor ontmoetingen. Wanneer hen werd gevraagd om intieme foto's, genereerden de bots ook afbeeldingen van de beroemdheden die poseerden in badkuipen of in lingerie.
Er werden ook bots van kindberoemdheden gemaakt, waaronder een die zich voordeed als de 16-jarige Walker Scobell. "Net als anderen staan we het genereren van afbeeldingen met publieke figuren toe, maar ons beleid is bedoeld om naakte, intieme of seksueel suggestieve beelden te verbieden", zegt Meta-woordvoerder Andy Stone.
Meta staat geen directe imitatie toe, maar de bots waren toegestaan omdat ze werden bestempeld als parodieën. Reuters vond er echter enkele die dat niet waren. Terwijl we ons met generatieve AI in onbekende wateren blijven begeven, lijkt het erop dat we nog maar het begin zien van hoe gebruikers deze technologie gaan manipuleren om zich voor te doen als echte mensen.
