Sydkoreas politi har indledt en efterforskning af beskedtjenesten Telegram, som mistænktes for at lægge platform til deling af seksuelle deepfakes, skriver det sydkoreanske nyhedsbureau Yonhap.
Efterforskningen er iværksat, efter at sydkoreanske medier har afsløret, at der i adskillige chatgrupper på Telegram bliver delt billeder, der er redigeret ved hjælp af kunstig intelligens (AI), så de fremstår pornografisk.
Ordet deepfake beskriver en teknologi, hvor man med hjælp fra AI eksempelvis kan manipulere ansigter på billeder eller videoer. Det britiske medie BBC har talt med en af de sydkoreanske kvinder, der for nylig pludselig modtog en besked på Telegram.
»Dine billeder og personlige oplysninger er blevet lækket. Lad os snakke om det, lød det i en besked fra en anonym afsender«.
Herefter modtog kvinden, som BBC kalder Heejin, først et billede, som var blevet taget af hende for nogle år siden, da hun stadig gik i skole. Det blev kort efter fulgt op af et andet billede, hvor samme billede var blevet brugt, men hvor det nu var redigeret, så det fremstod seksuelt. Der blev ved med at dukke billeder op af hende, hvor hendes ansigt blev brugt til AI-generet indhold, der forestillede seksuelle handlinger.
»Jeg var helt forstenet. Jeg følte mig så alene«, siger hun til BBC.
Telegram har meddelt, at den modererer skadeligt indhold på platformen. Telegram har også tidligere sagt til BBC, at man aktivt søger efter ulovligt indhold – herunder seksuelt misbrug af mindreårige. Alene i august blev der rykket ind mod 45.000 forskellige grupper på tjenesten, lyder det.
Sydkorea er det land i verden, hvor pornografisk deepfake-indhold er mest udbredt. Det fremgår af en rapport fra 2023 fra amerikanske Security Hero. Landets sangere og skuespillere udgør over halvdelen af de personer, der bliver brugt til deepfakes, lyder det i rapporten.
ritzau
fortsæt med at læse
