Google lyver for millioner af brugere hver eneste time
Hver gang du søger på Google, bliver du i dag præsenteret for et AI-genereret svar i toppen af siden, kaldet AI-oversigt.
Men selvom teknologien bliver klogere, viser nye data, at antallet af fejl den laver er voldsomt stort.
Se også: Guide til de bedste Android telefoner
AI Overblik rammer alt for ofte ved siden af
En frisk analyse fra The New York Times viser, at Googles AI-oversigt har en fejlrate på omkring 10 procent.
Undersøgelsen er foretaget i samarbejde med startup-virksomheden Oumi.
Det lyder måske ikke af meget, men i Googles enorme skala betyder det, at robotten serverer forkerte svar til hundredtusindvis af brugere hvert minut.
Ved hjælp af benchmarktesten SimpleQA har man testet over 4.000 spørgsmål, hvor svarene kan verificeres faktuelt.
Resultatet var, at Googles AI tager fejl hver tiende gang.
Se også: Guide: Sådan beskytter du dig mod usikre apps
Modsigelser og usandheder
Selvom Google har opdateret til deres nyeste Gemini 3-model, hvilket har hævet præcisionen fra 85 til 91 procent, er hallucinationerne stadig tydelige.
Testen viser eksempler på, at AI’en opfinder sine egne fakta om alt fra museer til kendte musikere.
I et konkret eksempel påstod Googles AI, at en bestemt institution slet ikke eksisterede, selvom den linkede direkte til institutionens egen hjemmeside som kilde.
Det understreger problemet med, at AI kan lyde utroligt overbevisende, selv når den tager fejl – og det er et kæmpe problem, når det er resultater der bliver placeret i første række på hver eneste Google-søgning.
Se også: Her er de 20 mest populære apps i Danmark
Google afviser kritikken
Hos Google er man ikke enige i undersøgelsens metoder. En talsmand fra selskabet udtaler, at de benyttede tests ikke afspejler, hvad almindelige mennesker reelt søger efter på nettet.
De mener, at deres egne interne målinger giver et mere retvisende billede.
Det ændrer dog ikke på den tommelfingerreglen for alle brugere af kunstig intelligens: Tjek altid kilderne selv og brug aldrig AI-overblik til vigtig viden.
Google skriver endda selv nederst i deres AI-oversigt, at man bør dobbelttjekke oplysningerne, da robotten kan begå fejl – og det må man altså sige, at den gør.
Se også: Nyheder om mobilteknologi
