Mennesket helt magtløse mod superintelligent AI

Måske hører du til dem, der blev lidt bekymret over The Terminator – hvad ville der ske, hvis den film blev virkelighed? En ny undersøgelse er kommet frem til, at mennesket ville være stort set ude af stand til at forudsige et superintelligent AI-systems handlinger og træk, hvis et sådant system nogensinde blev udviklet.

Mennesket kan ikke forudsige hvad AI vil gøre

Forskningsundersøgelsen er udført af Max-Planck Institute for Humans & Machines og er publiceret i Journal og Artificial Intelligence Research.

Her kom man frem til, at den eneste måde, mennesket vil være i stand til at forudsige, hvad et så magtfuldt system vil gøre, er at køre en simulation af systemet. Det er dog ikke sikkert, at det vil give resultat, da en simulation hurtigt vil være forældet, hvis AI’en kan udvikle sig eller vokse i hastig takt.

Manuel Cebrian, en af forfatterne bag undersøgelsen og chef for forskergruppen, siger: ”En superintelligent maskine, der kontrollerer verden, lyder som science fiction. Men der er allerede maskiner, der udfører visse vigtige opgaver selvstændigt, uden at programmører helt forstår, hvordan de har lært det.”

Se også: Kunstig intelligens vil ændre arbejdsmarkedet

Kan forurede algoritmer stoppe maskiner?

Undersøgelsen udspringer fra et spørgsmål fra Alan Turing, der var nysgerrig efter at finde ud af, om ”forurenede algoritmer” kan bruges til at hindre en maskine i at skade nogen eller spinne ud af kontrol og effektivt standse dem.

Problemet, der står tilbage nu, er, at teknologien er udviklet så meget, at de originale algoritmer vil være magtløse, når det kommer til at stoppe maskinerne. Turing konkluderede i 1936, at en enkelt algoritme, der kan bruges til alle maskiner, vil være umulig, og at man er nødt til at udvikle forskellige forurenede algoritmer til hvert system.

Se også: Telefoner med smart brugerflade

Forsker foruroliget over undersøgelsens konklusioner

Det kan dog være forgæves, idet computerne bliver mere og mere intelligente. Overfor Business Insider har en af forskerne i undersøgelsen, Iyad Rahwan, sagt, at de er så foruroligede over resultaterne af undersøgelsen, at man efter hans mening ikke bør udvikle AI bare for at gøre det, men kun til specifikke formål, som man forstår hele vejen igennem.

Videre siger han, at den evne, moderne computere har til at bruge sofistikerede algoritmer skabt via machine learning, gør det endnu sværere at forudsige den eventuelle adfærd, en superintelligent AI vil have.

Se også: Nyheder om kunstig intelligens