Gemini genererer historisk ukorrekte billede af nazister

Tidligere på måneden introducerede Google muligheden for at generere billeder med AI direkte i AI-chatbotten Gemini – den, der tidligere blev lanceret under navnet Bard.

Men glæden varede kort, for ligesom mange andre AI-værktøjer har den haft problemer med en ukorrekt repræsentation af race- og kønsstereotyper. Det så vi et klokkeklart eksempel på tidligere på ugen, hvor det lykkedes en bruger på det sociale medie X at generere historisk ukorrekte billeder af nazistiske soldater og amerikanske landsfædre.

For eksempel blev der genereret sorte personer og asiater som nazister. Og da Gemini blev bedt om at generere billeder af amerikanske landsfædre, genererede den en sort kvinde, asiatisk mand og indianere.

This is not good. #googlegemini pic.twitter.com/LFjKbSSaG2

— LINK IN BIO (@__Link_In_Bio__) February 20, 2024

Læs også: Google lancerer Gemini 1.5 – ny og mere effektiv AI-model

Google erkender: Gemini rammer ved siden af

Billederne blev tidligere på ugen spredt vidt og bredt, og det har nu fået Google til straks at sætte billedgenereringsværktøjet på pause, efter Gemini skabte de historisk ukorrekte billeder.

”Vi arbejder allerede på at løse de seneste problemer med Geminis billedgenereringsfunktion. Mens vi gør det, sætter vi billedgenereringen af personer på pause og udgiver snart en forbedret version igen,” oplyser Google.

I en tidligere udtalelse har Google bekræftet, at Geminis AI-billedegenerering skaber billeder af en bred vifte af personer for at undgå bias, men nu erkender selskabet, at opgaven ikke har været løst godt nok med Gemini.

“Vi arbejder på at forbedre denne type afbildninger med det samme. Geminis Al-billedgenerering genererer en bred vifte af mennesker. Og det er generelt en god ting, fordi folk over hele verden bruger det. Men her rammer den ved siden af.”

Læs også: OpenAI’s nye AI-model Sora genererer hyperrealistiske videoer