Instagram reklamerer for deepfake-apps
Instagram tjener penge på apps, der piller tøjet af folk uden deres samtykke. Det er tilsyneladende Meta – moderselskabet for Facebook og Instagram – som iblandt sine annoncer har flere opslag med annoncer, der reklamerer for “nudify”-apps. Applikationerne bruger AI til at lave deepfake-nøgenbilleder ud fra fotos af påklædte personer.
Der er rapporter om en annonce, der viser et foto af Kim Kardashian vist ved siden af ordene “klæd enhver pige af gratis” og “prøv det”. I en anden annonce sidder to AI-genererede fotos af en ung pige side om side – det ene med hende iført en langærmet skjorte. Dandet ser ud til at vise hende topløs med ordene “any clothing delete” skrevet hen over brysterne.
Flere kendisser har i løbet af de seneste seks måneder oplevet, at der er dukket AI-generede falske nøgenbilleder op. Der er også dukket billeder op af AI-nøgenfotos af teenagepiger. Både i EU og på amerikanske skoler har elever fundet og brugt “undress”-appen til at skabe falske nøgenbilleder af deres klassekammerater. De havde tilsyneladende fundet appen via TikTok-reklamer.
Se også: YouTube-indholdsskabere skal deklarere AI-genererede videoer
Først fjernet efter henvendelser
Efter henvendelser til Meta er mange af de annoncer, som journalister er stødt på, blevet fjernet fra Meta Ad Library. Men mange af dem blev altså først pillet ned, efter at brugere gjorde Meta opmærksom på dem.
Meta selv skriver, at de ikke tillader annoncer, der indeholder eksplicit indhold, og at de arbejder på at fjerne dem så hurtigt som muligt, når de opdager dem. Men noget tyder altså på, at Meta ikke her superhurtige til at håndhæve reglerne.
Læs også: 28 ondsindede apps: Tjek du ikke har disse mobilapps
Teenagere i risikogruppen
Det tyder på, at Meta altså ikke selv har overblik over, hvem eller hvad der reklameres for på deres platforme. Til trods for, at Meta tjener styrtende med penge på annoncerne. Det er bekymrende, for det tyder på, at det er nemt for ondsindede apps at komme ud til millioner af brugere uden at blive stoppet i første omgang.
I USA bruger op til 50 procent af teenagere stadig Instagram, og i Danmark er Instagram det næstmest udbredte sociale medie, idet det bruges af 56 procent af alle mellem 16 og 74 år. Der er altså en stor risiko for, at netop teenagere bliver lokket til at skabe falske nøgenbilleder af reklamerne.
