Falske nøgenfotos af Taylor Swift skabt med kunstig intelligens har i løbet af onsdag og torsdag cirkuleret heftigt på det sociale medie X.
Et af de mest prominente opslag, hvor billederne blev delt, tiltrak sig 45 millioner visninger og hundredtusindvis af likes og bogmærker, før den verificerede bruger, der havde delt billederne, fik sin konto suspenderet for at forbryde sig mod platformens retningslinjer.
Opslaget lå frit tilgængeligt på X i omkring 17 timer, før det blev fjernet, skriver det amerikanske techmedie The Verge.
Men da brugere begyndte at diskutere og dele det virale opslag, spredte billederne sig og blev delt på andre konti. Billederne florerer derfor stadig, og siden er en ny bølge af såkaldte deepfake-billeder af popstjernen skyllet ind over X.
I visse områder blev ’Taylor Swift AI’ sågar et trendende emne, og billederne er således nået ud til en endnu bredere brugerskare.
Bagmændene morede sig
En rapport fra netmediet 404 Media, der laver undersøgende journalistik på internetområdet, finder, at billederne stammer fra en gruppe på det sociale medie Telegram, hvor brugere deler seksuelt eksplicitte AI-fotos af kvinder, som ofte skabes med programmet Microsoft Designer.
Efterfølgende har Telegram-gruppen ifølge 404 Media moret sig over, at billederne af Taylor Swift er gået viralt på X.
X’ retningslinjer vedrørende manipulerede billeder og nøgenbilleder uden samtykke fra de involverede forbyder imidlertid, at den slags billeder deles på platformen.
Det gjorde X’ sikkerhedsafdeling selv klart i et opslag på X, hvor AI-billederne af Taylor Swift dog ikke specifikt bliver nævnt.
»At poste non-consensual nudity-billeder (nøgenfotos uden samtykke, red.), er strengt forbudt på X, og vi har en nultolerancepolitik i forhold til den slags indhold. Vores teams fjerner aktivt alle identificerede billeder«, lyder det i opslaget.
Fans går til modangreb
Fans af Taylor Swift har kritiseret X for at lade AI-billederne af deres idol ligge på det sociale medie så længe, som de har gjort.
Som modangreb oversvømmede de derfor X med ægte billeder og videoer af Taylor Swift for at skjule de falske billeder.
Det er langtfra første gang, at billeder og videoer af kendte kreeret med deepfake-teknologi er kommet i omløb på internettet. Scarlett Johansson, Emma Watson og Michelle Obama er eksempler på andre berømtheder, der ufrivilligt er endt i pornosammenhænge.
Det er primært på de socialer medier, at deepfake-indholdet bliver delt, og derfor ender ansvaret for at få det stoppet ofte også hos techgiganterne.
Den nye sag med Swift viser dog, at det er vanskeligt at komme delingerne til livs – især for X, der har udhulet deres moderationsafdeling.
fortsæt med at læse
