AI-legende sammenligner AI med atombomben
Den prominente AI-forsker Geoffrey Hinton har netop sagt sit job op hos Google og mener nu, at ”onde aktører” kommer til at bruge generativ AI til ”one ting”.
Han vil i stedet bruge sin tid på at advare om den hurtige udvikling af AI, der foregår for tiden, og opfordrer til en form for global regulering. Geoffrey Hinton er en af de mest anerkendte personer inden for forskning i kunstig intelligens og opfattes af mange som en slags AI-godfather.
Se også: Gratis ChatGPT
AI vil blive brugt til onde ting
Hinton, der er en prisvindende forsker i AI, neurale netværk og maskinlæring, er ifølge et interview i The New York Times ikke længere bekvem med at flytte på grænserne for AI-udviklingen uden først at have lovgivning eller en stopklods på plads.
Den 75-årige kognitive psykolog og datalog, der har arbejdet som chefforsker på flere områder af AI-udviklingen hos Google, forklarer, at det er svært at se, hvordan man kan undgå, at onde aktører kan forhindres i at bruge AI til onde ting.
Han sammenligner situationen med udviklingen af atombomben. Robert Oppenheimer, der var med til at udvikle atombomben for USA, understregede vigtigheden af at forske for forskningens skyld. Hinton mener i stedet, at man skal træde på bremsen i stedet for at trykke speederen i bund, bare fordi man kan.
“Man skal ikke skalere op for AI før man ved, om man kan kontrollere den,” forklarer han.
Han er desuden, som mange andre førende eksperter inden for området, bekymret for, at AI vil føre til massefyringer i hele verden. Investeringsbanken Goldman Sachs har estimeret, at der forsvinder 300 millioner job på verdensplan inden for de kommende år på grund af AI.
Se også: De mest smarte telefoner
Udviklede fundamentet for AI
Hinton fik titlen som AI’ens godfather på grund af sin lange karriere inden for AI-forskning, der toppede, da han i 2012 sammen med to af sine studerende ved Univesity of Toronto byggede et neuralt netværk.
Det netværk er et maskinlæringsprogram, der kunne lære sig selv at identificere genstande som hunde, blomster og så videre, og det blev et vigtigt springbræt for moderne transformerbaseret AI som AI-billedgeneratorer og store sprogmodeller.
Google opkøbte det selskab, der blev grundlagt i 2013 på baggrund af Hintons forskning i Toronto. Det gjorde det muligt for ham at etablere en afdeling af Google Brain-teamet i Toronto – et team der skulle holde øje med AI-udviklingen. Derefter bestemte Google sig for at kaste en masse penge efter AI og opkøbte deep learning-selskabet DeepMind i 2014.
Se også: Hvad kan man med kunstig intelligens?
Sammenlignede tidligere AI med elektricitet og hjulet
Hintons selskab fik ifølge en artikel i Wired i 2021 flere tilbud fra forskellige techgiganter som Microsoft og kinesiske Baidu, der begge er yderst engagerede i sine egne satsninger på AI-udvikling.
I et interview i marts med CBS News sammenlignede Hinton de seneste hurtige fremskridt for AI med den industrielle revolution, elektricitet og hjulet.
Det er uklart, hvornår Hinton ændrede mening og i stedet drager paralleller mellem AI og atombomben, men for bare et par måneder siden omtalte han AI som et “unaturligt lille barn”.
Se også: AI lærer selv ting den ikke er trænet i
Mener at Google har opført sig meget ansvarligt
Ifølge The New York Times meddelte Hinton Google, at han ville sige op under en samtale med direktøren Sundar Pichai sidste torsdag. Selvom The New York Times antyder, at Hinton forlod Google for at undgå sin gamle chef, hævder Hinton, at hans formål udelukkende er at kunne advare mod farerne ved AI og tilføjer, at “Google har opført sig meget ansvarligt.”
Hintons exit kommer på et tidspunkt, hvor hans tidligere selskab står midt i en stor reorganisering efter en massefyring. I sidste måned annoncerede Google, at virksomheden slog de to største AI-teams – Google Brain og DeepMind – sammen.
Frem til nu har de fleste opfordringer til at sætte udviklingen af AI på pause kommet fra personer uden for Big Tech-miljøet. I marts cirkulerede et åbent brev, hvor hundredevis af ledede personer og forskere havde skrevet under og krævede en pause i udviklingen.
