Vad är superintelligens?

Biologiska människor kommer att bli utklassade av intelligenta maskiner.

Många maskiner och icke-mänskliga djur presterar redan på övermänsklig nivå inom snäva områden. Fladdermöss tolkar ekolodsignaler bättre än människan, miniräknare överträffar oss i räkning och schackprogram slår stormästare. Men med framtida möjligheter till maskin­intellekt som kan ersätta människor över hela linjen – superintelligens – uppkommer mer djupgående frågor. Jag urskiljer tre former: snabb superintelligens, kollektiv superintelligens och kvalitativ superintelligens.

SNABB SUPERINTELLIGENS

En snabb superintelligens är ett intellekt som är precis som ett mänskligt medvetande, men oerhört mycket snabbare. Det enklaste exemplet på snabb superintelligens är en efterhärmad hjärna, en hjärnemulering, som körs på snabb hårdvara. En emulering som arbetar tio tusen gånger snabbare än en biologisk hjärna kan läsa en bok på några sekunder och skriva en doktorsavhandling på en eftermiddag. Om farten ökade en miljon gånger kunde en emulering åstadkomma ett helt årtusende av intellektuellt arbete på en enda arbetsdag. För ett sådant snabbt medvetande tycks händelser i omvärlden utspela sig i slow motion. Anta att ditt medvetande går tio tusen gånger snabbare än det gör nu. Om en vän av kött och blod råkade tappa sin tekopp skulle du se den falla sakta ner mot mattan under loppet av flera timmar.

På grund av denna uttänjning av tiden i den materiella världen skulle en snabb superintelligens föredra att arbeta med digitala objekt och hellre umgås med andra snabba med­ vetanden i stället för med långsamma män­niskor. Den skulle kunna leva i en virtuell verklighet och vara verksam inom informationsekonomin. Alternativt kunde den inter­agera med den fysiska omgivningen med manipulatorer i nanoskala, eftersom lemmar i en så liten skala skulle arbeta snabbare än decimeterstora robothänder.

Eftersom snabba medvetanden ställs inför större alternativkostnader när de använder sin tid till resor eller kommunikation över långa avstånd, blir ljusets hastighet en allt viktigare begränsning. Ljuset rör sig ungefär en miljon gånger snabbare än ett jetplan, så det skulle ta en digital agent med en mental fartökning på en miljon gånger ungefär lika lång subjektiv tid att resa jorden runt som det gör för en modern mänsklig resenär. Att ringa upp någon för ett fjärrsamtal skulle ta lika lång tid som att ta sig dit »personligen», även om ett samtal skulle kräva mindre bandbredd och därmed vara billigare. Digitala agenter med stora mentala fartökningar som vill kommunicera flitigt sinsemellan skulle kanske finna det fördelaktigt att flytta närmare varandra. Extremt snabba medvetanden med behov av tät interaktion, till exempel medlemmar i ett arbetslag, kan tänkas bosätta sig i datorer lokaliserade i samma byggnad för att undvika frustrerande fördröjningar.

KOLLEKTIV SUPERINTELLIGENS

En kollektiv superintelligens är ett system som uppnår överlägsna prestanda genom att ett stort antal mindre intelligenser slås samman. Medan vi inte har någon erfarenhet av supersnabba medvetanden på mänsklig nivå, är vi vana vid samarbetande komponenter på mänsklig nivå. Exempel är arbetslag, intresseorganisationer, ja till och med mänskligheten som helhet. Kollektiv intelligens kan lösa problem som kan delas upp i delar. Att bygga en rymdfärja eller driva en hamburgerkedja erbjuder otaliga möjligheter till arbetsdelning. Under den mänskliga förhistoriens gång, och på nytt under mänsklighetens historia, har den kollektiva intelligensen ökat mycket. Vissa förbättringar i kommunikationsteknik – särskilt talat språk men kanske också städer, skrift och boktryckarkonsten – skulle kunna sägas ha gett superstora uppsving sedan sten åldern, i den meningen att om ännu en innovation med jämförbar effekt på vår kollektiva intellektuella problemlösningsförmåga skulle göras, så skulle det resultera i kollektiv super­intelligens.

Här lär någon invända att det moderna samhället inte alls verkar vara särskilt intelligent. Den samtida mänskligheten avgudar materiell konsumtion, förorenar miljön, minskar artrikedomen i naturen och åtgärdar inte skriande globala orättvisor. Men vår definition av kollektiv superintelligens säger inte att ett samhälle med större kollektiv intelligens nödvändigtvis har det bättre, inte ens att det är klokare. Vi bör inse att det kan finnas instrumentellt kraftfulla system för informationsbehandling – intelligenta system – som är varken goda eller kloka.

För att illustrera ett fall av löst integrerad kollektiv superintelligens kan vi föreställa oss en planet, Megajorden, som har samma nivå av kommunikations och samordningstekniker som vi nu har på den verkliga jorden, men med en befolkning som är en miljon gånger större. Anta att ett vetenskapligt geni av Newtons eller Einsteins kaliber uppstår åtmins­tone en gång per 10 miljarder människor: då skulle det på Megajorden finnas 700 000 sådana. Nya idéer och teknologier skulle utvecklas i rasande takt, och den globala civilisationen på Megajorden skulle utgöra en löst integrerad kollektiv superintelligens.

Om vi stegvis ökar graden av integration kan en kollektiv intelligens så småningom bli ett enhetligt intellekt: ett enda stort medvetande i kontrast till en samling av löst sam­verkande mänskliga medvetanden av mindre format. En kollektiv superintelligens skulle därmed, efter en tillräcklig ökning i integration, bli en kvalitativ superintelligens.

KVALITATIV SUPERINTELLIGENS

Kvalitativ superintelligens, den tredje formen, utgörs av system som är minst lika snabba som mänskliga medvetanden och kvalitativt långt smartare. Intelligenskvalitet är ett dunkelt begrepp, och vi har brist på erfarenhet av variationer i kvalitet ovanför den nuvarande mänskliga intelligensfördelningens övre ände.

Men först kan vi vidga våra referenspunkter genom att betrakta icke-mänskliga djur med intelligens av lägre kvalitet. Icke-mänskliga djur saknar ett komplext strukturerat språk; de har ingen eller bara rudimentär förmåga att använda verktyg; de är starkt begränsade i sin förmåga till långsiktig planering; och de har mycket begränsad förmåga till abstrakta resonemang. I termer av ren beräkningskraft är mänskliga hjärnor sannolikt underlägsna dem hos vissa stora djur, däribland elefanter och valar. De anmärk­ningsvärda intellektuella prestationer som uppnåtts av Homo sapiens kan uppenbarligen i stor utsträckning tillskrivas genetiskt styrda drag i vår hjärnarkitektur. Kvalitativ superintelligens är alltså intelligens med en kvalitet som är minst lika överlägsen den hos mänsklig intelligens som den mänskliga intelligensens kvalitet är överlägsen den hos elefanter, delfiner eller schimpanser.

Ett annat sätt att illustrera begreppet kvalitativ superintelligens är att notera de områdesspecifika kognitiva brister, orsakade av genetiska avvikelser eller hjärnskador, som kan drabba enskilda människor. Dessa patienters hjärnor fungerar i övrigt bra. Normala vuxna människor har en rad anmärkningsvärda kognitiva förmågor som inte enbart är en funktion av att de har tillräckligt mycket generell intelligens, utan specialiserade neurala kretssystem behövs också. Detta konstaterande antyder idén om möjliga men icke förverkligade kognitiva talanger: tänkbara förmågor som ingen verklig människa besitter.

Genom att betrakta icke-mänskliga djur och mänskliga individer med områdesspecifika kognitiva brister kan vi alltså bilda oss en viss uppfattning om olika kvaliteter av intelligens. Om Homo sapiens till exempel hade saknat de kognitiva moduler som möjliggör komplexa språkliga representationer kunde vi ha varit en apart vilken som helst som levde i harmoni med naturen. Om vi, på omvänt sätt, skulle erhålla en ny uppsättning hjärnmoduler som ger en fördel jämförbar med den att kunna bilda komplexa språkliga representationer, skulle vi bli superintelligenta.

DIREKT OCH INDIREKT RÄCKVIDD

Superintelligens i någon av de tre nämnda formerna skulle med tiden kunna utveckla den teknik som krävs för att skapa de två andra formerna. Den indirekta räckvidden för dessa tre former av superintelligens är därför den samma. I denna mening är även den nuvarande mänskliga intelligensens indirekta räckvidd densamma, under förutsättning att vi till sist lyckas skapa någon form av superintelligens.

Den direkta räckvidden för de tre formerna av superintelligens är svårare att jämföra. Vi kan dock säga att snabb superintelligens är överlägsen när det gäller att snabbt genomföra en lång rad steg som måste utföras i följd, medan kollektiv superintelligens är överlägsen i uppgifter som kan brytas ner i parallella delar, liksom i uppgifter som kräver en kombination av olika perspektiv. Kvalitativ super­intelligens kan vara den mest kapabla formen av alla, eftersom den skulle kunna lösa problem som ligger bortom den direkta räckvidden för snabb och kollektiv superintelligens.

På somliga områden är kvantitet en dålig ersättning för kvalitet. Vissa funktioner gagnas kraftfullt av ett ensamt snilles arbete, i kontrast till otaliga medelmåttors förenade ansträngningar. Det kan därför finnas problem som kan lösas av en kvalitativ superintelligens och kanske av en snabb superintelligens, men som en löst integrerad kollektiv superintelligens inte kan lösa. Det handlar då om problem som är sammanflätade på komplexa sätt och där lösningen inte kan verifieras i avgränsade steg. Vissa typer av konstnärligt skapande och strategiskt tänkande kan höra till denna kategori; kanske även vissa typer av vetenskapliga genombrott.

Och man kan spekulera i om mänsklig­hetens långsamma framsteg när det gäller många av filosofins »eviga problem» kan bero på att hjärnbarken inte lämpar sig för filosofiskt arbete. Sett på detta sätt är våra mest hyllade filosofer som hundar som går på bakbenen – deras prestationer uppnår bara nätt och jämnt det tröskelvärde som krävs för att alls utöva aktiviteten.

DIGITALA INTELLIGENSENS: FÖRDELAR

Små förändringar i hjärnvolym och kopplingsnät kan få stora konsekvenser, vilket vi ser när vi jämför människors prestationer med andra apors. De långt större förändringar i beräkningsresurser och arkitektur som maskinintelligens kommer att möjliggöra lär få än mer djupgående konsekvenser. Det är svårt, kanske omöjligt, för oss att få en intuitiv känsla för förmågorna hos en superintelligens, men hårdvarufördelarna är lättast att uppskatta:

• Beräkningselementens hastighet. Biologiskanervceller arbetar med en topphastighet av omkring 200 Hz, hela sju storleksordningar långsammare än en modern mikroprocessor (~2 GHz). Som en följd av detta tvingas den mänskliga hjärnan förlita sig på massiv parallellisering och är oförmögen att snabbt göra en beräkning som kräver ett stort antal sekventiella operationer. (Inget som hjärnan gör på mindre än en sekund kan utnyttja mycket mer än hundra sekventiella operationer – kanske bara några dussin.) Men många av de viktigaste algoritmerna i datavetenskap är svåra att parallellisera. Många kognitiva uppgifter skulle kunna ut föras långt effektivare om hjärnans inbyggda stöd för parallelliserbara mönstermatchande algoritmer integrerades med stöd för snabb sekventiell databehandling.

• Intern kommunikationshastighet. Nervfibrer leder impulser med en fart av 120 meter per sekund eller mindre, medan elektroniska processorkärnor kan kommunicera optiskt med ljusets hastighet (300 000 000 meter per sekund). Nervsignalernas tröghet sätter en gräns för hur stor en biologisk hjärna kan vara och samtidigt fungera som en enda processorenhet. Ett exempel: för att uppnå en sammanlagd överföringstid på mindre än 10 millisekunder mellan två element i ett system måste biologiska hjärnor vara mindre än 0,11 kubikmeter (110 liter). Ett elektroniskt system å andra sidan skulle kunna vara 6,1 × 10¹7 kubikmeter, ungefär lika stort som en dvärgplanet.

• Antalet beräkningselement. Den mänskliga hjärnan har något mindre än hundra miljarder nervceller. Människor har ungefär tre och en halv gånger så stor hjärna som schimpanser (men endast en femtedel så stor hjärna som kaskeloter). Antalet nervceller i en biologisk varelse begränsas främst av skallvolym och ämnesomsättning. En superdator kan vara stor som en lagerlokal eller större, med extra fjärrkapacitet tillagd via höghastighetskablar.

• Lagringskapacitet. Det mänskliga arbetsminnet rymmer inte mer än kanske fyra eller fem informationsbitar i ett givet ögonblick. Även om det vore vilseledande att jämföra med mängden RAM i en dator, står det klart att digitala intelligenser kommer att ha större arbetsminnen. Detta kan ge sådana medvetanden en intuitiv förståelse av komplexa relationer som människor bara kan hantera taffligt genom omständliga beräkningar. Människans långtidsminne är också begränsat, även om det är oklart om vi förmår uttömma dess lagringskapacitet under en normal livstid, med tanke på hur långsamt vi ackumulerar information. Enligt en uppskattning lagrar en vuxen mänsklig hjärna omkring en miljard bitar – en hundradel av vad en smartmobil av enklare modell klarar.

• Tillförlitlighet, livslängd, sensorer med mera. Biologiska nervceller är mindre tillförlitliga än transistorer. Hjärnor blir trötta efter några timmars arbete och börjar förfalla permanent efter några decennier. Dataflödet in i en maskinintelligens kan ökas genom att miljontals sensorer läggs till. Maskinhårdvara kan omkonfigureras för att passa olika uppgifter, medan en stor del av hjärnans arkitektur är fastlagd från födseln eller bara kan förändras långsamt. Digitala medvetanden kommer också att gynnas av stora fördelar i mjukvara:

• Redigerbarhet. Det är lättare att experimentera i mjukvara än i neural våtvara. Med en hjärnemulering skulle man lätt kunna testa vad som händer om man lägger till fler neuroner i ett visst område i hjärnan eller ändrar deras retbarhet.

• Kopierbarhet. Med mjukvara kan man snabbt göra godtyckligt många exakta kopior. Biologiska hjärnor reproduceras däremot mycket långsamt; och varje nytt exemplar börjar i ett hjälplöst tillstånd, utan något minne av vad dess föräldrar lärt sig under sin livstid.

• Målsamordning. Mänskliga kollektiv är på många sätt ineffektiva beroende på att det är svårt att enas om syfte och ansats i en stor grupp – åtminstone innan det blir möjligt att skapa foglighet i stor skala med hjälp av droger eller genetiskt urval. En digital »klan av kopior» (en grupp identiska dataprogram med gemensamt mål) slipper sådana samordningsproblem.

• Minnesdelning. Biologiska hjärnor behöver lång utbildning, medan digitala medvetanden kan skaffa sig nya minnen och färdig­heter genom att utbyta datafiler. En population på en miljard kopior av ett AI-program skulle kunna synkronisera sina databaser med jämna mellanrum, så att alla exemplar av programmet vet allt som något av de andra exemplaren har lärt sig den senaste timmen.

• Nya moduler, modaliteter och algoritmer. Anledningen till att visuell perception förefaller oss lätt är att vi har ett särskilt neuralt maskineri på låg nivå för automatisk bearbetning av synintryck. Att lyssna till musik, använda språk, och annan informationsbearbetning som är naturlig för oss människor verkar också stödja sig på särskilda neurala beräkningsmoduler. Ett artificiellt medvetande med ett sådant specialiserat stöd för andra kognitiva områden som är viktiga i dagens värld – som ingenjörskonst, datorprogrammering och affärsstrategi – skulle ha stora fördelar jämfört med medvetanden som våra, vilka måste förlita sig på en tung­rodd universalkognition. Nya algoritmer skulle också kunna utvecklas för att dra för del av den digitala hårdvarans särskilda möjligheter, som dess stöd för snabb seriell databehandling. De fördelar som ytterst kan uppnås genom kombination av maskinintelligens, hårdvara och mjukvara är enorma.