Samfunn
Eit vegkart til digital dommedag
Uhindra utvikling av kunstig intelligens er ein sikker veg til undergangen for menneska, hevdar KI-tenkaren Eliezer Yudkowsky.
Illustrasjon: Shutterstock / NTB
Det er ein gammal idé at menneskeleg skaparkraft skal føre til vår eigen undergang, slik dr. Frankenstein vart myrda av vesenet han gav liv til. I actionfilmen Terminator frå 1984 er det Skynet, eit datasystem utvikla for det amerikanske forsvaret, som forårsakar dommedag. Skynet utviklar eigen vilje og nektar å late seg stenge ned når operatørane blir mistenksame. For å sikre si eiga overleving set systemet i gang ein atomkrig. Deretter bygger Skynet ein robothær for å eliminere dei få menneska som overlevde.
I 1984 var tenkande datamaskiner rein science fiction. Men med den rivande utviklinga av kunstig intelligens (KI) har slike visjonar fått ny relevans. Somme av dei fremste forskarane på feltet åtvarar om at utviklinga av stadig meir avansert KI faktisk kan bli enden på oss alle. Åtvaringane kjem i mange variantar og ulike alvorsgradar, og det er verdt å prøve å ta dei alvorleg.
Korleis kan vi sjå for oss den KI-genererte slutten på mennesket? Idear blir tydelegare i ein rå og reindyrka variant. Så her skal vi gje plass til ein av dei dystraste tenkarane i debatten, Eliezer Yudkowsky.
Svartsynt
Yudkowsky er ein eksentrisk figur: eit flogvit frå Chicago som datt ut av skulen før vidaregåande, ein ekstremnerd som forfatta endelause filosofiske fiksjonstekstar på nettet. Likevel er Yudkowsky ei viktig stemme i debatten om kunstig intelligens. Han byrja å skrive om KI alt for 25 år sidan, og har blitt sitert av ei rekke sentrale aktørar i den amerikanske teknologibransjen. Sam Altman, leiar for OpenAI, har kalla han ei viktig inspirasjonskjelde.
I haust gav Yudkowsky ut ei bok med den nokså tydelege tittelen If Anyone Builds It, Everyone Dies i fellesskap med meiningsfellen Nate Soares. Dei to arbeider ved Machine Intelligence Research Institute i Berkeley, California. Dette er ei tankesmie grunnlagd av Yudkowsky i 2000, da han var ein entusiastisk tilhengar av å utvikle kunstig intelligens. Etter kvart kom han på andre tankar. No ser han det som si store oppgåve å hindre at kunstig intelligens blir slutten for oss alle. Ifølge Yudkowsky er utslettinga av mennesket nær uunngåeleg om teknologiutviklinga ikkje blir bremsa. Men kvifor det?
Digital tilgang – heilt utan binding
Prøv ein månad for kr 49.
Deretter kr 199 per månad. Stopp når du vil.
