AI har gjort deepfake-porno til et gigantisk problem
En ny analyse af deepfake-pornovideoer uden samtykke, udført af en uafhængig forsker og delt med WIRED, viser, hvor udbredte videoerne er blevet. Mindst 244.625 videoer er blevet uploadet til de 35 største hjemmesider, der enten udelukkende eller delvist er oprettet til at hoste deepfake-pornovideoer i løbet af de sidste syv år, ifølge forskeren, der har bedt om anonymitet for at undgå at blive hængt ud online.
I løbet af de første ni måneder i år blev 113.000 videoer uploadet til hjemmesiderne. Det er en stigning på 54 procent i forhold til de 73.000 videoer, der blev uploadet i hele 2022.
Ved udgangen af dette år, forudser analysen, vil der være produceret flere videoer i 2023 end det samlede antal i alle andre år tilsammen og det skyldes primært de AI-værktøjer, der er kommet.
Se også: Hvad er deepfake og fake news
Deepfake-porno er blevet en industri
I de senere år er der opstået en hel industri af deepfake-porno, som hovedsageligt er rettet mod kvinder, og som produceres uden folks samtykke eller viden. Ansigtsudskiftningsapps, der fungerer på stillbilleder, og apps, hvor tøj kan “fjernes fra en person” på et foto med blot et par klik, er også meget fremtrædende.
“Det er noget, der er rettet mod almindelige mennesker, almindelige gymnasieelever, almindelige voksne – det er blevet en daglig begivenhed,” siger Sophie Maddocks, der forsker i digitale rettigheder og cyberseksuel vold ved University of Pennsylvania til Wired.
Hun slår fast, at det vil gøre en stor forskel, hvis man det bliver sværere at få adgang til disse teknologier.
Se også: Mobilabonnement til erhverv
Svært at spore online
Det er utroligt svært at måle det fulde omfang af deepfake-pornovideoer og -pornobilleder online. Det er en udfordring at spore, hvor indholdet bliver delt på de sociale medier, og krænkende indhold bliver også delt i private beskedgrupper eller lukkede kanaler, ofte af personer, som ofrene kender.
Problemet er globalt. Ved hjælp af en VPN testede forskeren Google-søgninger i Canada, Tyskland, Japan, USA, Brasilien, Sydafrika og Australien. I alle testene blev deepfake-hjemmesider vist tydeligt i søgeresultaterne. Berømtheder, streamere og indholdsskabere er ofte mål i videoerne.
Se også: Hvordan påvirker teknologi mennesket?
Google og Microsoft skal sætte ind
Skal man finde en måde at stoppe spredningen af deepfake-porno, skal man kigge på firmaer, der hoster hjemmesiderne, og også søgemaskiner, herunder Google og Microsofts Bing.
Henry Ajder, ekspert i deepfake og generativ AI, forklarer, at det handler om at forsøge at gøre det så svært som muligt at finde deepfake-porno. Derfor skal søgemaskinerne nedprioritere resultater fra sider, der promoverer deepfake-porno. Aider har dog svært ved at være optimistisk på dem front, når man tænker på mængden og omfanget af disse operationer og behovet for, at platforme – som historisk set ikke har taget disse problemer alvorligt – pludselig gør det.
