Visst kan maskiner ha medvetande

Text: David Chalmers

HUR KAN VI VETA om en maskin, exempelvis den människoliknande Data i TV-serien Star Trek, är medveten? En cybernetiker i TV-serien hävdar att Data är en kiselzombie som saknar medvetande. Data är mycket annorlunda beskaffad än vi människor och har ingen biologisk hjärna. Så vi kan inte använda hjärnprocesser som kriterium för medvetande. 

Data beter sig verkligen på ett sätt som vi förknippar med medvetande. Detta väger tungt psykologiskt, men det är inte uppenbart hur mycket vikt vi ska fästa vid detta eftersom det gäller ett system som är så annorlunda funtat. 

Här ska jag fokusera på endast en typ av maskin: en perfekt digital simulering av en hjärna, exempelvis min egen. Jämfört med andra maskiner har en simulerad hjärna den fördelen att den maximerar likheten med en mänsklig hjärna, vilket förenklar en del argument. Exempelvis behöver vi då ingen fullständig teori som säger vilka system som är medvetna, eftersom vi kan utgå från det fall som vi vet har medvetande: vi själva. Vidare hjälper hjärnsimuleringar oss att belysa frågor som simulerade världar och uppladdning av medvetande i datorer. 

Hur skulle det gå till att simulera en hjärna? Vi kan anta att varenda neuron simuleras på ett perfekt sätt, liksom varenda gliacell och varje annan typ av cell i hjärnan. Även interaktionerna mellan neuronerna simuleras perfekt. All elektrokemisk aktivitet simuleras, liksom all annan aktivitet, såsom blodflöde. Samtliga fysiska tillstånd och processer i hjärnan som påverkar hur den fungerar kommer att simuleras. 

Någon kanske hävdar att det är omöjligt att simulera en hjärna. Jag utgår här från att hjärnan är ett fysiskt system och därför styrs av lagar som kan simuleras beräkningsmässigt – två antaganden som stöds av tillgängliga data. Om dessa antaganden är sanna borde datorsimuleringar av hjärnor vara möjliga. Dessa antaganden garanterar inte att en simulering kommer att fungera – det kanske är så att vi måste ända ner till fysikens lägre nivåer för att simulera hjärnprocesser tillräckligt väl.

Fallet med en simulerad hjärna har en stor fördel: vi får upp ögonen för att vi kan komma att bli maskinen. Då kan vi ha evidens från ett förstapersonsperspektiv för att maskinmedvetande är möjligt. Hur kan du då komma att bli en simulerad hjärna? Att bara skapa en simulering kan få saker att verka oklara. Om din ursprungliga hjärna förblir intakt efter simuleringen kommer den förmodligen att hävda att den är den ursprungliga personen. Du skulle också kunna förstöra din ursprungliga hjärna och bara ha kvar datorsimuleringen, men denna modiga handling skulle lämna alla frågor om identitet obesvarade. Har du blivit den simulerade hjärnan, eller har en helt ny person skapats?

DET SÄKRASTE SÄTTET att bli en simulerad hjärna är att det sker steg för steg. Denna process kallas gradvis uppladdning. Vi bygger en simulering cell för cell och ordnar det så att de simulerade cellerna interagerar med biologiska grannceller via receptorer och effektorer. Till en början ersätts bara några få originalceller med simulerade celler. Efter ett tag kommer många att ersättas, och grannceller kan börja interagera med varandra på ett fullt ut simulerat sätt. Snart kommer en fjärdedel av din hjärna att ha ersatts, sedan hälften, sedan tre fjärdedelar, och till slut hela hjärnan. Kanske kommer simuleringen att vara kopplad till originalkroppen via effektorer. Kanske kommer även kroppen att vara simulerad.

Vi kan föreställa oss att uppladdningsprocessen tar några veckor. När de första cellerna har ersatts tar du en paus. Du kanske känner dig lite omtöcknad efter operationen, men i övrigt mår du bra. De simulerade cellerna beter sig precis likadant som de gamla cellerna och genererar samma beteende, så du beter dig som vanligt. Givet allt detta skulle du tvivelsutan säga att du är medveten.

Under förutsättning att de simulerade cellerna är tillräckligt lika originalcellerna kommer något liknande att inträffa vid varje steg i processen. Någon kommer att fråga ”Hur mår du?” och du kommer att svara ”Bra”, eller kanske ”Jag är hungrig” eller ”Jag har ont” eller ”Jag är uttråkad”. Än en gång: under förutsättning att hjärncellerna har simulerats på ett perfekt sätt kan vi förvänta oss i stort sett samma beteende från simuleringen som tidigare från din biologiska hjärna.

När hela din hjärna har byggts upp i en simulering får du än en gång frågan om hur du mår, och du kommer att ge ett någorlunda normalt svar. Om simuleringen fungerar väl kommer du att säga att du är medveten. Om man frågar dig om du är säker på det kommer du att säga ”Ja!” Rimligtvis kommer du att ha blivit övertygad om att maskiner kan ha medvetande.

I sin bok Artificial you från 2019 tvivlar den amerikanska filosofen Susan Schneider på att maskiner kommer att kunna bli medvetna och på att medvetandet kan bevaras i uppladdningsprocessen. För henne förefaller det troligt att hon vid en uppladdning skulle förvandlas till en filosofisk zombie, alltså vara fysiskt normal men sakna medvetna upplevelser. Visst, hon skulle kanske säga ”Jag är fortfarande här” och ”Jag är medveten”, men det är precis den typen av uttalanden som vi skulle förvänta oss att höra från en zombie.

Emellertid kan vi ställa några obekväma frågor till en skeptiker som Susan Schneider. Om gradvis uppladdning låter beteendet vara intakt men eliminerar medvetandet kan vi fråga: Vad händer med medvetandet under loppet av denna process? Rimligtvis är man fortfarande fullt medveten när bara några få biologiska neuroner har ersatts av simulerade neuroner. Vad är fallet när en fjärdedel av hjärnan har ersatts, eller hälften? Tynar ditt medvetande långsamt bort? Eller försvinner det plötsligt helt och hållet?

DET FÖREFALLER SOM att det finns två möjliga ståndpunkter som de som tvivlar på maskiners medvetande kan inta. Den första är att medvetandet försvinner plötsligt – det vill säga, man går från att vara fullt medveten till att vara helt omedveten när en enda neuron byts ut. Detta skulle innebära en extraordinär diskontinuitet som inte liknar något annat som vi finner i naturen. Kanske skulle medvetandet kunna stängas ner om stora delar av hjärnan byts ut; men knappast att en minimal förändring orsakar hela förändringen på egen hand. Vi kan också utvidga argumentet genom att ersätta mikroskopiska delar av den avgörande simulerade hjärncellen, en i taget, tills vi slutligen isolerar den enskilda kvark vars ersättande orsakar medvetandets fullständiga förintelse. Detta verkar osannolikt. Det är alltså troligare att medvetandet fasas ut gradvis än att det försvinner plötsligt.

Detta leder oss till den andra möjliga ståndpunkten: att medvetandet tynar bort gradvis, vilket innebär att det finns ställen på vägen då det har försvagats men inte försvunnit. Men eftersom dina neuroner har ersatts av perfekta simuleringar kommer ditt beteende att vara helt normalt. Genom hela processen intygar du att du är fullt medveten och har normala snarare än försvagade medvetna upplevelser. Så i detta fall måste en skeptiker som Susan Schneider medge att du misstar dig om ditt medvetande. Vid en mellanliggande punkt, när ditt medvetande har försvagats, är du fortfarande en medveten varelse (inte en zombie), och du uppvisar inte något uppenbart irrationellt beteende. Icke desto mindre är du ur fas med ditt medvetande: du tror att det är normalt, medan det i själva verket håller på att tyna bort. Detta alternativ verkar också tämligen bisarrt.

Men det finns en tredje hypotes som är långt rimligare. Vid varje steg i processen, ända till slutet, förblir ditt medvetande intakt. Denna hypotes kringgår orimligheterna både med att medvetandet plötsligt försvinner och med att det långsamt tynar bort. En följd av denna hypotes är dock att simulerade hjärnor kan ha medvetande. Åtminstone i det särskilda fall där du blir en simulerad hjärna via gradvis uppladdning kommer simuleringen att vara fullständigt medveten!

När vi nu har kommit så här långt är det naturligt att dra slutsatsen att simulerade hjärnor i allmänhet kan vara medvetna. Jag antar att någon skulle kunna invända att bara gradvis uppladdade simuleringar faktiskt är medvetna, kanske eftersom en gradvis uppladdning också överför något slags ”själ” från den ursprungliga hjärnan. Detta skulle dock göra medvetandet icke-enhetligt, och det öppnar dörren för att nästan vilket system som helst kan vara en zombie, beroende på om det är sammanlänkat med en själ eller inte. Det verkar troligare att om medvetandet finns i en simulerad hjärna, så finns det i alla simuleringar av medvetna hjärnor.

OM JAG HAR rätt kan alltså simulerade hjärnor ha medvetande. Mer precist: om ett system med en biologisk hjärna är medvetet kommer även ett system med en perfekt simulering av den hjärnan att vara medvetet och ha samma sorts medvetna upplevelser.

Denna slutsats har konsekvenser för simuleringshypotesen – det vill säga idén att vi lever i en datorsimulering. I en sådan simulering kommer det i typfallet att finnas många simulerade hjärnor. Eftersom det finns många medvetna varelser i den ursprungliga världen, kommer en simulering av denna värld att innehålla lika många medvetna varelser, och dessa kommer att ha samma sorts medvetande. Det följer att vårt medvetande inte utesluter hypotesen om en ren simulering – vårt medvetande är lika förenligt med en simulerad som en icke-simulerad verklighet. Vidare har vi nu goda skäl att tro att medvetandet inte är beroende av att finnas i en kolbaserad biologisk varelse, utan lika väl kan existera i en kiselbaserad dator. Ett stort hinder för simuleringshypotesen är därmed undanröjt.

Allt det här stärker argumentet att virtuell verklighet är genuin verklighet, eftersom vi har argumenterat för att simulerade medvetanden är genuina medvetanden. Dessa argument stärker också utsikterna för artificiellt medvetande mer allmänt, oavsett om det artificiella systemet involverar en simulerad hjärna eller inte. När vi väl vet att ett datorsystem kan ha medvetande, kan vi förvänta oss att många har det. Slutligen gör allt det här att utsikterna för uppladdning av medvetanden ser bättre ut.

Det finns tre möjliga hinder för att ladda upp medvetandet: intelligens, medvetande och identitet. Skulle ett uppladdat system bete sig som oss? Det verkar nu troligt att det skulle det, så länge vår hjärna och vårt beteende styrs av regler som kan simuleras. Alltså är uppladdningen lika intelligent som vi biologiska varelser. Skulle ett uppladdat system vara medvetet? Jag har argumenterat för att så är fallet. Om man genomgår stegvis uppladdning finns det goda skäl att tro att medvetandet kommer att förbli intakt hela vägen.

Hur är det med det tredje möjliga hindret, identitet? Om jag laddar upp min hjärna till en simulerad hjärna, kommer det fortfarande att vara jag? Jag tror att det varierar från fall till fall. I fallet med ickedestruktiv uppladdning, där en biologisk hjärna fortfarande är vid liv efter att ha laddats upp, är de flesta människors intuition att ens ”jag” kommer att förbli i den ursprungliga hjärnan och att den simulerade hjärnan är en ny och distinkt person. Fallet med destruktiv uppladdning, där den biologiska hjärnan förstörs efteråt, är otydligare, men många accepterar att den ursprungliga personen dör och att en ny person har skapats.

Än en gång är gradvis uppladdning den bästa vägen till överlevnad. Anta att 1 procent av min hjärna ersätts varje dag. Det verkar rimligt att jag fortfarande är samma person när den första dagen är över. Vid den andra dagens slut är jag samma person som jag var vid den första dagens slut, så jag är samma person som när processen startade. Och så vidare. Det som sker här verkar inte skilja sig principiellt från vad som sker med en vanlig biologisk hjärna, där ju många neuroner ersätts över stora tidsrymder. Att snabbt skapa en ny hjärna kanske genererar en ny person, medan gradvis ersättning låter den gamla personen förbli intakt.

Som vanligt inom filosofin finns det inga garantier. Men om jag någonsin får chansen att ladda upp min hjärna till en simulering skulle jag föredra gradvis uppladdning. Det verkar vara det säkraste kortet för att överleva och att ha ett intakt medvetande när processen är över. 

Ta del av samtalet! Bli prenumerant och
få Sans direkt hem i brevlådan.

Böcker