OpenAI overvejer at tillade AI-genereret pornografi
OpenAI, der står bag ChatGPT, undersøger, om brugerne skal have lov til at skabe AI-genereret pornografi og andet eksplicit indhold med deres tjenester.
OpenAI har meldt ud, at man overvejer at lade udviklere og brugere på ”ansvarlig vis” skabe såkaldt “not-safe-for-work”-indhold (NSFW) gennem deres tjenester. Det kan omfatte “erotik, ekstrem gore, fornærmelser og uopfordrede bandeord,” oplyser OpenAI.
“Vi undersøger, om vi på en ansvarlig måde kan give mulighed for at generere NSFW-indhold i alderssvarende sammenhænge … Vi ser frem til bedre at forstå brugernes og samfundets forventninger til sprogmodellers adfærd på dette område,” lyder det.
Forslaget blev offentliggjort som en del af et OpenAI-dokument, der diskuterer, hvordan de udvikler deres AI-værktøjer.
“Vi vil gerne sikre, at folk har maksimal kontrol i det omfang, at det ikke krænker loven eller andres rettigheder, men det er udelukket at tillade deepfakes – punktum. Det betyder ikke, at vi nu forsøger at skabe AI-porno,” siger Joanne Jang fra OpenAI, som har arbejdet på dokumentet.
Hun indrømmede dog, at det “afhænger af ens definition”, om resultatet betragtes som pornografi, og tilføjede: “Det er præcis de samtaler, som vi gerne vil have.”
Se også: Hvad er fake news og deepfakes? Sådan spotter du falske nyheder
Vil underminere OpenAI’s mission
OpenAI’s eksisterende forbud mod deepfakes vil fortsat gælde for voksenindhold, forsikrer selskabet, men kritikere mener, at forslaget om at tillade pornografisk AI-indhold underminerer OpenAI’s mission om at producere “sikker og gavnlig” AI.
Velgørenhedsorganisationen Internet Watch Foundation, der beskytter børn mod seksuelt misbrug på nettet, har advaret om, at pædofile bruger AI til at skabe nøgenbilleder af børn ved hjælp af versioner af teknologien, der er frit tilgængelige på nettet.
Se også: Instagram reklamerer for deepfake-apps
Danske organisationer ønsker forbud mod deepfakes
Deepfakes har også været til debat i Danmark – senest da Morten Messerschmidt offentliggjorde en deepfake-video af Mette Frederiksen for netop at illustrere, hvor skadelig teknologien er. Her var der dog ingen seksuelle fremstillinger, men derimod falske ytringer.
Justitsminister Peter Hummelgaard har for nylig meldt ud, at han er åben for at kigge på, om der er behov for at lave ændringer i loven. Det sker, efter flere organisationer som Digitalt Ansvar og Sex og Samfund ønsker et forbud mod deepfake-pornografi, skriver DR.
Debatten kommer uomtvisteligt til at blusse yderligere op, når OpenAI formentlig snart lancerer sin tekst-til-video-AI-tjeneste Sora.
Mira Murati, der er OpenAI’s teknologichef, har tidligere i år oplyst til Wall Street Journal, at hun ikke var sikker på, om OpenAI ville tillade sit kommende videoværktøj Sora at skabe nøgenbilleder.
“Man kan forestille sig, at der er kreative miljøer, hvor kunstnere måske gerne vil have mere kontrol over det, og lige nu arbejder vi sammen med kunstnere og indholdsskabere fra forskellige områder for at finde ud af, præcis hvad der er nyttigt, hvilket niveau af fleksibilitet værktøjet skal give,” sagde hun.
Se også: Mette Frederiksen vil afskaffe pinsen, påsken og julen!
