OpenAI opretter team der skal forhindre en AI-katastrofe

Ifølge OpenAI har AI de egenskaber, der skal til for at udvikle sig til en superintelligens, der kan blive det mest afgørende teknologiske skridt, mennesket nogensinde har opnået, og som kan komme med løsninger på vigtige globale dilemmaer.

Men Ilya Sutskever og Jan Leike fra OpenAI gør opmærksom på, at mennesker er ikke udrustet til at håndtere teknologi, der går udover vores egne kognitive formåen.

Se også: Hvad gør teknologien ved menneskets hjerne?

Kan ikke styre AI’s adfærd

OpenAI’s team anerkender den overhængende fare, en superintelligent AI udgør, og indrømmer, at de på nuværende tidspunkt ikke har en løsning til, hvordan kan styrer eller ændrer på dens fremfærd.

Eksisterende metoder til at styre AI, såsom forstærkningslære ud fra menneskelig feedback, er afhængig af menneskelig overvågning. I takt med, at AI-systemer overgår den menneskelige intelligens, bliver overvågningen upålidelig.

Se også: AI bør reguleres som atomkraft

Etablere AI-bekæmper

Det har fået Sutskever, grundlægger og chefforsker hos OpenAI, og Leike, chef for OpenAI’s afdeling for tilpasning, til at sammensætte et team af forskere og ingeniører, der har til opgave at overvinde de tekniske forhindringer, en superintelligens kan være. De har en deadline på fire år til at opnå sit mål.

Det er ganske vist alarmerende, når forskerne begynder at tale om menneskets tilintetgørelse, men cheferne hos OpenAI er stadig optimistiske om mulighederne for at finde en løsning.

De tror fuld og fast på, at de med en fokuseret og samordnet indsats kan løse situationen. Koncepter og indledende eksperimenter sammen med målbart fremskridt og muligheden for empirisk at undersøge disse udfordringer ved hjælp af eksisterende AI-modeller er dele af fremgangsmåden.

Sutskever og Leike understreger, at de er fuldt og fast indstillet på at udbrede resultaterne af deres arbejde på bred front.

OpenAI rekrutterer aktivt forskningsingeniører, videnskabsfolk og managere, der har en interesse i at forhindre, at AI i fremtiden tilintetgør eller dominerer over mennesket.

Derudover har OpenAI annonceret en bred tilgængelighed af GPT-4, der er selskabets mest udviklede AI-model, med det formål, at den skal være mere tilgængelig for udviklere.