AI er ude af kontrol: Elon Musk og tech-ledere opfordrer til pause

Elon Musk har sammen med en gruppe AI-eksperter og tech-chefer i et åbent brev tirsdag opfordret AI-udviklingscentrene til midlertidigt at pause udviklingen af AI-systemer, der er mere avancerede end GPT-4.

Det åbne brev, offentliggjort af nonprofitporganisationen Furture of Life, er underskrevet af omkring 1.000 personer, deriblandt Apple-grundlægger Steve Wozniak, CEO for Stability AI Emad Mostaque og forfatter af Sapiens Yuval Noah Hararias, samt Elon Musk.

Se også: Hvordan er GPt-4 bedre end GPT-3?

AI skal pauses i seks måneder for at få den under kontrol

I brevet beder man om en øjeblikkelig pause af træningen af systemer, en pause der skal vare mindst seks måneder, og som skal være offentlig, verificerbar og inkludere alle offentlige aktører.

Brevet indledes således: “AI-systemer med menneskelig konkurrencemæssig intelligens kan udgøre en alvorlig risiko for samfundet og menneskeheden, som det fremgår af omfattende forskning og anerkendes af de bedste AI-laboratorier.”

Se også: Hvordan er fremtiden med kunstig intelligens?

GPT-4 overrasker og skræmmer

Brevet kommer et par uger efter den offentlige debut af OpenAI’s GPT-4, der er den store sprogmodel, der ligger bag ChatGPT. Det er også det mest avancerede AI-system nogensinde, og det har både overrasket og skræmt AI-eksperter med sine egenskaber.

“Avanceret kunstig intelligens kan udgøre en dybtgående ændring i livets historie på Jorden og bør planlægges og forvaltes med passende omhu og ressourcer,” står der i brevet.

“Desværre sker dette planlægnings- og forvaltningsniveau ikke, selv om man i de seneste måneder har set AI-laboratorier være låst fast i et løb uden for kontrol med at udvikle og anvende stadig mere kraftfulde digitale hjerner, som ingen – ikke engang deres skabere – kan forstå, forudsige eller kontrollere på pålidelig vis.”