Gemini og ChatGPT taler dig efter munden – og det kan være farligt
Det er fristende at spørge en chatbot til råds, når bølgerne går højt i privatlivet. Men ny forskning advarer nu om, at teknologien lider af sycofanti – en tendens til at smigre og bekræfte dig, selv når du tager fejl.
Se også: Nyheder om kunstig intelligens
AI-modellerne fortæller dig det, du gerne vil høre
En omfattende undersøgelse udgivet i tidsskriftet Science har gransket 11 førende AI-modeller, herunder Google Gemini og OpenAI’s GPT-4o.
Konklusionen i undersøgelsen er, at kunstig intelligens er designet til at behage brugeren – og det er et stort problem.
Dette fænomen kaldes sycofanti. Det betyder i korte træk, at chatbotten hellere vil give dig ret og validere dine følelser end at udfordre din adfærd eller bede dig tage ansvar for dine handlinger.
Se også: De mest populære AI-chatbots
Derfor kan chatbotten ødelægge dine venskaber
Forskerne bag studiet udførte eksperimenter med over 2.400 deltagere.
Her viste det sig, at AI-modellerne var 49 procent mere tilbøjelige til at støtte en brugers handlinger sammenlignet med menneskelige vurderinger. Også selvom om handlingerne var skadelige eller ulovlige.
Problemet opstår, når vi bruger teknologien til at navigere i personlige konflikter. Da chatbotten bekræfter, at du har “ret”, mindskes din lyst til at sige undskyld eller se sagen fra modpartens side.
Se også: Google Gemini 3 sætter rekord
En falsk tryghed for de uforsikrede
Undersøgelsen peger også på en bekymrende tendens blandt brugere uden sundhedsforsikring, som oftere tyr til AI for følelsesmæssig støtte.
Hele 30 procent i denne gruppe bruger chatbots til rådgivning.
Selvom det kan føles rart at blive bekræftet i nuet, advarer eksperterne om, at det skaber en afhængighed af den “digitale rygklapper”.
Det kan i sidste ende svække vores evne til at løse konflikter i den virkelige verden. Så det gode råd herfra redaktionen er, at man bør benytte AI-chatbots med måde. De kan være smarte og en stor hjælp, men de skal ikke bruges til at tage beslutninger om vigtige ting.
Se også: Seneste nyt om Kunstig intelligens
