Cyborger, vanliga människor och mjukvaruhjärnor

Text: Anders Sandberg

De flesta arter är obeständiga. De dör ut, förgrenar sig till nya arter eller förändras över tid på grund av mutationer och miljöförändringar. En typisk däggdjursart kan förväntas existera i runt en miljon år. Den moderna människan, Homo sapiens, har funnits i ungefär 300 000 år. Så vad kommer att hända om vi klarar oss i en miljon år?

Den amerikanske science fictionförfattaren H.G. Wells var den förste som insåg att människan skulle kunna utvecklas till något mycket främmande. I sin essä från 1883, Man in the year million, föreställde han sig vad som numera har blivit en kliché: varelser med stora hjärnor och små kroppar. Senare spekulerade han i att människan också skulle kunna dela upp sig i två eller fler nya arter.

Även om Wells evolutionsmodeller inte har klarat tidens tand är de tre grundläggande alternativ som han övervägde fortfarande giltiga. Vi kan dö ut, förändras eller omvandlas till flera arter.

En extra ingrediens är att vi i dag har genteknik som ökar sannolikheten kraftigt för var och en av de tre möjligheterna.
Ingenjörsmässiga former av nya, icke-biologiska arter kan, liksom hybrider mellan människa och maskin (så kallade cyborger), komma att skapas av artificiell intelligens (AI). Andra möjligheter är hjärnemulering (biologiska hjärnor som laddas upp till datorer) och den breda grupp av tekniker som sammanfattas under benämningen human enhancement. De sistnämnda syftar till att göra oss smartare, starkare eller på andra sätt bättre med hjälp av läkemedel, genetik eller på annat sätt.

Mjukvaruintelligens och AI

Det är givetvis omöjligt att förutsäga framtiden exakt. Den beror på faktorer som är i grunden slumpmässiga: människors idéer och handlingar, samt hittills okända tekniska och biologiska hinder och möjligheter. Det är mitt jobb att utforska tänkbara framtider, och jag tror att det mest sannolika utfallet är en omfattande artbildning – alltså att vår art delas upp i flera andra.

Det finns många bland oss som gärna vill förbättra människans villkor – bromsa och avskaffa åldrandet, förbättra intelligens och humör och stärka våra kroppar – vilket potentiellt också kan leda till nya arter.

Dessa visioner kommer dock att lämna många kallsinniga. Det är troligt att även om de här teknikerna blir lika billiga och vanliga som mobiltelefoner är i dag, kommer en hel del människor att vägra använda dem av principiella skäl och i stället bygga sin självbild på att vara ”normala” människor.

På lång sikt kan vi förvänta oss att de flesta förstärkta människor, generation efter generation (eller uppgradering efter uppgradering), kommer att utgöra en eller flera fundamentalt annorlunda ”posthumana” arter, medan en annan grupp människor alltså förklarar sig vara ”de riktiga människorna”.

Genom hjärnemulering – en spekulativ teknik där en mänsklig hjärna skannas på cellnivå och sedan rekonstrueras som ett motsvarande neuralt nätverk i en dator – skulle vi kunna gå ännu längre. Det här är inte bara artbildning, utan det innebär att vi lämnar djurriket för mineralriket, eller snarare för mjukvaruriket.

Det finns många anledningar att vilja göra detta, exempelvis att öka chanserna att bli odödlig (säkerhetskopior är ju möjliga) eller att enkelt kunna resa i rymden via internet eller radio.

Programvaruintelligens har även andra fördelar. Den kan vara mycket resurseffektiv – en virtuell varelse behöver bara energi från solljus och lite mineraler för att tillverka mikrochips. Den kan också både tänka och förändra sig enligt tidsskalor som fastställs av matematiska beräkningar, förmodligen miljontals gånger snabbare än biologiska hjärnor. Den kan evolvera på nya sätt – den behöver bara en mjukvaruuppdatering.

Det är osannolikt att mänskligheten förblir den enda intelligenta arten på planeten. Artificiell intelligens utvecklas snabbt just nu. Även om det råder stor osäkerhet och oenighet om när AI kommer att bli medveten – om det ens är möjligt – så kommer vi så småningom att förfoga över AGI, artificiell generell intelligens. Sådana maskiner kan förstå eller åtminstone bearbeta alla intellektuella problem som en människa kan ställas inför, snarare än att vara specialiserad på nischuppgifter som att diagnostisera cancer på röntgenbilder eller skriva datorprogram för materialflöden i fabriker. En betydande del av dagens experter tror att mänskligheten kommer att ha tillgång till AGI redan under innevarande århundrade.

Om AGI är möjlig, så kommer den förmodligen att inträffa. Någon gång i framtiden kommer vi sannolikt att ha en planet där människor till stor del har ersatts av mjukvaruintelligens eller AI – eller någon kombination av dem.

Utopi eller dystopi?

Det är troligt att de flesta hjärnor så småningom kommer att finnas endast som mjukvara. Framtidens datorer kommer att vara mycket mer energieffektiva än i dag. Programvaruhjärnor kan dessutom spara energi genom att inte behöva äta eller dricka och genom att köra långsammare under vissa tider av dygnet. Det här innebär att vi i en avlägsen framtid kommer att ha tillgång till många fler artificiella hjärnor per kilogram materia och watt solenergi än vad mänskliga hjärnor kan erbjuda. Och eftersom de kan evolvera snabbt bör vi förvänta oss att de med tiden kommer att fungera enormt annorlunda än vår nuvarande tankestil.

Biologiska varelser har en tydlig nackdel jämfört med mjukvaruvarelser, eftersom de rör sig i materiens tröga, brokiga landskap. Men de är ändå självständiga enheter, till skillnad från den flyktiga programvara som kommer att försvinna om mjukvaruhjärnornas dataprocessorer förstörs.

Det kan komma att bli så att ”naturliga” människor lever kvar i traditionella samhällen som är mycket olika mjukvarumänniskornas. Detta är inte helt olikt vissa ålderdomliga religiösa grupper i dag, som Amishfolket i bland annat Pennsylvania och Ohio, vars livsstil möjliggörs och skyddas av det omgivande USA. Det är alltså inte givet att de omgivande, modernare samhällena måste krossa små och primitiva samhällen. Genom internationella konventioner och nationell lagstiftning har vi fastställt mänskliga rättigheter och juridiska skydd mot övergrepp, och något liknande skulle kunna fortsätta för biologiska människor.

Är detta en bra framtid? Mycket beror på vad man har för värderingar. Ett gott liv kan innebära att ha meningsfulla relationer med andra människor och att leva i en fredlig och välmående miljö på ett hållbart sätt. Ur det perspektivet behövs inga konstiga posthumana varelser; vi behöver bara se till att den lugna lilla byn kan fungera (kanske skyddad av dold automatisering).

Vissa kanske värdesätter ”det mänskliga projektet”, alltså den obrutna kedjan från våra stenåldersförfäder till våra framtida jag, men är öppna för vetenskap och tekniska framsteg inom ramen för den biologiska människans horisonter. Ungefär som vi har det i dag. Dessa personer skulle förmodligen anse att mjukvaruhjärnor och medveten AI vore att gå för långt, men de har antagligen inget emot att andra människor utvecklas till nya märkliga former.

Andra skulle hävda att det viktiga i livet är frihet att uttrycka sig och att sträva mot sina livsmål. Den gruppen kanske tycker att vi på ett öppet sätt bör utforska den posthumana världen och se vad den har att erbjuda.

Åter andra kanske värdesätter jakten på lycka, tänkande eller andra sysslor som olika mänskliga varianter utövar och vill ha en framtid som maximerar dessa möjligheter. Vissa människor kan å andra sidan vara genuint osäkra och mena att vi bör gardera oss genom att välja samtliga möjliga vägar i någon grad.

Dysonsfär?

Här är en förutsägelse för år 1000000. Vissa människor ser mer eller mindre ut som vi – men de är färre till antalet än i dag. En stor del av planetens yta är vildmark som har uppstått därför att det inte finns något större behov av jordbruk och städer.

Här och där finns det, av historiska eller estetiska skäl, kulturella platser med avvikande ekosystem, omsorgsfullt skötta av robotar.

Under tak av kisel i Sahara finns det många biljoner artificiella hjärnor. De enorma och heta datacenter som driver dessa hjärnor hotade en gång att överhetta planeten. Nu kretsar de flesta av dem kring solen och bildar en växande struktur – en så kallad Dysonsfär – där varje watt energi driver tankar, medvetande, komplexitet och andra märkliga saker som vi ännu inte har ord för.

Om den biologiska människan skulle dö ut, är den troligaste orsaken (bortsett från vår egen tids uppenbara hot i form av krig, pandemier och global uppvärmning) att det har rått brist på respekt, tolerans och bindande kontrakt med de posthumana arterna. Kanske en anledning för oss att börja behandla våra egna minoriteter bättre.