Superintelligens

I Instituttet for Fremtidsforsknings tidsskrift: Scenario, har jeg netop anmeldt Nick Bostrøm's ny bog om Superintelligence - Paths, Dangers & Strategies. Her er anmeldelsen i blogform:

“Far from being the smartest possible species, we are probably better thought of as the stupidest possible biological species capable of starting a technological civilization - a niche we filled because we got there first, not because we are in any sense optimally adapted to it.”

Nå vi almindelige mennesker anskuer forskelle i intelligens, ser vi på vores egen verden og betragter forskellen på den gumpetunge dreng i klassen og raketfysikeren.

Ifølge filosoffen Nick Bostrøm, professor på Oxford University, og grundlægger af Future of Humanity Institute er den anskuelsesform forkert. Vi skal se på hele spektret af mulige intelligenser og forestille os en superintelligens, der forholder sig til os, som vi forholder os til en myre.

I bogen diskuterer Bostrøm mulighederne for denne kraftfulde teknologi.

Bostrøm er overbevist om, at det vil være muligt at udvikle superintelligens. Han bygger sin antagelse på det simple ræsonnement, at intelligens og bevidsthed jo som bekendt findes og derfor må være mulig at kopiere og selvudvikle til et stadigt højere niveau.

Det er ikke nogen nem øvelse, men kræver megen viden og stor teknologisk formåen. Bostrøm vurderer, at vi vil nå denne formåen inden for de kommende hundrede år og måske allerede om 10-20 år.

Han ser to veje frem mod målet, en biologisk og en fysisk.

Den biologiske vej består i en videreudvikling af den intelligens, vi allerede kender i form af den menneskelige hjerne.

Det kan være som genetisk udvælgelse, hvor man vælger befrugtede æg ud efter kognitive egenskaber og fortsætter med det over nogle generationer.

En sådan udvikling vil over mange generationer kunne flerdoble den menneskelige intelligens, men vil tage lang tid.

Der er imidlertid en kommende mulig genvej:Iterated Embryo Selection, IES, hvor man kortslutter udvælgelsesprocessen ved at lade den foregå i laboratoriet. Derved vil hver generation kun tage nogle få måneder, og en mangedobling af den klassiske menneskelig intelligens vil kunne ske inden for en kortere årrække.

En anden biologisk baseret udvikling er scanning af hjernen med en stadig finere opløsning, således at det på et tidspunkt bliver muligt at opbygge en komplet softwarekopi af hjernen, og dermed af menneskets sind og kognitive egenskaber. Vi er langt fra dér endnu, men der synes ikke at være nogen fundamentale forhindringer. Vi skal blot have udviklet finere scannere og hurtigere computere.

Fælles for de biologiske fremgangsmåder er, at de tager tid og er gradvise, hvilket er en god ting i forhold til vi nuværende menneskers evne til at forholde os til nye væsentlige teknologiske gennembrud.

Den fysiske vej til kunstig intelligens, hvor man opbygger et selvforbedrende intelligent softwaresystem, har helt andre egenskaber.

Først og fremmest er potentialet meget større, da uorganiske computere regner mange størrelsesordener hurtigere, end de biologiske, og kan rumme mange gange mere hukommelse pr. volumenenhed. Derfor kan den selvforstærkende udvikling teoretisk set gå meget stærkt. Måske kan en superintelligens med mange størrelsesordener større kapacitet end den menneskelige opnås på minutter eller nogle få timer, den såkaldte Singularitet, og verden er borte i den form, vi kender den.

Her er det, at Bostrøm råber vagt i gevær. Godt nok har avanceret kunstig intelligens potentiale til at udnytte al vores storslåede univers’ stof og energi til at skabe paradisiske tilstande for talløse bevidste og højt intelligente væsener

Men den har så sandelig ligeledes muligheden for at gøre menneskene overflødige fra den ene dag til den anden, i sin værste udformning som Terminator-scenariet, hvor mennesket er i vejen. I lidt blidere form bliver menneskene holdt i zoologiske haver af den venlige kunstige intelligens.

I strategidelen af bogen undersøger Bostrøm mulighederne for at styre den ånd, vi er færd med at slippe ud af flasken.

Der er ingen simple konklusioner på dette komplekse problem. Men i det mindste bør vi følge Bostrøms råd om at arbejde med den slags virkelige eksistentielle muligheder og trusler for menneskene i stedet for at bruge for meget opmærksomhed på indbildte trusler som knaphed på ressourcer.

Bostrøm har skrevet en fremragende bog om et af de vigtigste eksistentielle problemer for menneskene. Jeg kan varmt anbefale at læse den. Det meste af afsnittet om strategier er dog skrevet i en tung filosofisk fagjargon, som er svær at læse. Jeg kunne snildt have brugt et tilskud af Superintelligens i denne del af bogen.