Nøgenbilleder af børn: EU kan lukke Grok

EU-Kommissionen har mandag åbnet en officiel sag mod Elon Musks AI-chatbot, Grok. Bekymringen går på spredning af manipulerede nøgenbilleder, og det kan i yderste konsekvens betyde, at tjenesten må lukke ned i Europa.

Se også: Nyheder om kunstig intelligens

Mistanke om ulovlige deepfakes

Ifølge en pressemeddelelse fra EU-Kommissionen er kernen i problemet, at Grok gør det muligt at generere seksualiserede billeder og videoer af virkelige personer uden deres samtykke.

Dette omfatter også materiale af mindreårige, hvilket har ført til massiv international kritik.

Sagen behandles under EU’s forordning om digitale tjenester (Digital Services Act), som stiller strenge krav til platformes håndtering af ulovligt indhold.

Kommissionen betegner indholdet som “åbenlyst ulovligt” og kræver, at Elon Musks AI-selskab, xAI, trækker de problematiske funktioner tilbage fra det europæiske marked.

Se også: De mest populære AI-chatbots

Politisk spænding forsinkede processen

Sagen skulle oprindeligt være indledt i sidste uge, men blev udskudt af geopolitiske årsager.

Ifølge det tyske medie Handelsblatt tøvede EU-Kommissionen, da man frygtede en modreaktion fra USA’s præsident, Donald Trump.

Trump havde forinden truet med øget told mod EU-lande i forbindelse med en konflikt om Grønland. Da denne trussel blev trukket tilbage, valgte EU at gå videre med sagen mod Grok.

Hvis ikke xAI retter ind efter EU’s krav, risikerer chatbotten en total blokering i Europa.

EU har tidligere vist tænder over for techgiganter, eksempelvis da TikTok Lite blev tvunget til at trække en funktion tilbage efter trusler om suspendering.

De bedste AI-chatbots

Der er stor kamp om danskernes gunst på markedet for AI-apps. Er du tvivl om, hvilken AI-chatbot der er bedst? Se de bedste AI-chatbots og AI-apps.