Chatbots i dødsloop
Ny undersøgelse viser, at mere end halvdelen af alt nyt indhold på internettet nu er skrevet af kunstig intelligens.
Det betyder, at meget af det, du læser online, kan være skabt af AI, og at algoritmerne i stigende grad fodres med deres egne fejl – resultatet er et internet, der langsomt fyldes med uvalideret information.
Se også: 10 AI-trends i 2026
AI står bag over halvdelen af al nyt indhold på internettet
Mere end halvdelen af alt nyt indhold på internettet er nu skrevet af kunstig intelligens, viser en ny undersøgelse fra Graphite.
Ved at analysere 65.000 engelsksprogede artikler fandt forskerne frem til, at AI-genererede tekster allerede i november 2024 stod for mere end 50 procent af alt nyt webindhold. Det tal ser ud til at have stabiliseret sig i starten af 2025.
Der ses en eksplosiv stigning i AI-generet indhold siden introduktionen af ChatGPT i november 2022. I løbet af få måneder efter lanceringen af ChatGPT steg andelen hurtigt til op mod 40 procent.
AI’s dødsloop: Algoritmer fodres med deres egne fejl
Den voksende mængde AI-genereret indhold har ikke kun ændret, hvordan nettet ser ud, men påvirker også selve grundlaget for fremtidens AI-modeller.
Når nye sprogmodeller i stigende grad trænes på allerede AI-genereret materiale, opstår et såkaldt dødsloop: en form for digital indavl, hvor algoritmerne fodres med deres egne produkter. Resultatet er, at sproget bliver mere ensartet, mindre nuanceret og gradvist løsrevet fra faktatjekket, kildeunderstøttet viden.
I dag findes der ingen effektive valideringsmekanismer, der sikrer, at AI-genereret tekst bygger på dokumenterede kilder, verificerede oplysninger eller navngivne eksperter. Det betyder, at internettet i stigende grad bliver en cirkel af uforankret information, hvor rigtigt og forkert flyder sammen.
På sigt må udviklingen af AI bevæge sig mod en mere kildestyret tilgang, hvor modellerne ikke blot trænes i sprogforståelse, men også lærer at identificere og vægte information efter oprindelse og troværdighed. Det bliver ikke let, men det er nødvendigt, hvis AI-chatbots som ChatGPT og Gemini ikke skal ende med at reproducere og forstærke sin egen uvaliderede viden.
Perspektivering
Chatbots er de AI-værktøj, der har størst anvendelse i befolkningen, men der er stor forskel på kvaliteten af dem. Se de bedste AI-chatbots.
Se også: Nyheder om kunstig intelligens
