Blir AI den nya managementkonsulten?

Text: Ted Chiang

NÄR VI TALAR OM artificiell intelligens använder vi oss ofta av metaforer. Vi jämför kraftfulla AI med andar i sagor eller med kung Midas, som krävde att allt han rörde vid skulle förvandlas till guld.

Jag vill dock föreslå en annan liknelse för riskerna med artificiell intelligens: att vi tänker på AI som en managementkonsultfirma, i stil med McKinsey & Company. Likheterna mellan McKinsey – som arbetar med de flesta av västvärldens största företag – och AI är tydliga. Företag inom sociala medier nyttjar maskininlärning för att hålla användarna fast vid deras flöden. På liknande sätt anlitades McKinsey av läkemedelsbolaget Purdue Pharma för att ta reda på hur man skulle ”turboladda” försäljningen av Oxycontin under opioidepidemin i USA. Precis som AI lovar att utgöra en billig ersättning för mänskliga arbetare, så hjälpte McKinsey och liknande företag till att normalisera massuppsägningar som ett sätt att höja aktiekurserna och ersättningen till chefer, vilket bidrog till att förstöra medelklassen i Amerika.

En tidigare McKinseyanställd har beskrivit företaget som ”kapitalets villiga bödlar”. Att slippa behöva ta ansvar är en av de mest värdefulla tjänster som managementkonsultföretag tillhandahåller. Genom att anlita konsulter kan en företagsledning säga att den bara följde oberoende expertråd. Den fråga vi borde ställa oss är: När AI blir allt kraftfullare, finns det då något sätt att förhindra att de blir en ny version av McKinsey? Anta att det byggs en halvautonom AI som är helt följsam mot människors instruktioner. Detta är drömmen för många AI-forskare. Och det kommer alltid att gå att bygga en AI som prioriterar höjt aktieägarvärde. De flesta företag kommer att vilja använda en sådan snarare än en AI som begränsas av prosociala principer. Jag kritiserar inte idén att sälja saker, utan omständigheten att människor som har mycket pengar får utöva makt över människor som faktiskt arbetar. Mer specifikt kritiserar jag den ständigt växande koncentrationen av rikedom bland allt färre människor. Detta är kanske inte en inneboende egenskap hos kapitalismen, men den kännetecknar kapitalismen som den praktiseras i dag.

Som AI utvecklas för närvarande handlar det ofta om att analysera någon arbetsuppgift som människor utför och sedan komma på ett sätt att ersätta människan. Detta är exakt den typ av problem som företagsledningar vill ha löst. Är det möjligt för AI att i stället ta på sig rollen som konsultföretag för att främja arbetarnas intressen? Om vi inte kan komma på sätt för AI att minska koncentrationen av rikedom, skulle jag säga att det är svårt att hävda att AI är en neutral teknik, än mindre en positiv sådan.

Många tror att AI kommer att skapa mer arbetslöshet och nämner då universell basinkomst, också kallad medborgarlön, som en lösning. Jag gillar idén om basinkomst, men med tiden har jag blivit skeptisk till att det skulle motverka AI-driven arbetslöshet. 

Mitt skäl är att det verkar vara ett sätt för de människor som utvecklar AI att skicka över ansvaret till stat och kommun.

Minns ni att skådespelerskan Susan Sarandon – som är en varm anhängare av Bernie Sanders – inför valet 2016 sa att det vore bättre att rösta på Donald Trump än på Hillary Clinton, eftersom det skulle skynda på revolutionen. Den slovenske filosofen Slavoj Žižek sa samma sak och hävdade att valet av Trump skulle bli en sådan chock för systemet att det skulle leda till förändring.

Det Žižek förespråkade är ett exempel på det som inom politisk filosofi kallas accelerationism. Det som förenar vänsterorienterade accelerationister är uppfattningen att det enda sättet att göra saker bättre är att först göra dem värre tills hela systemet bryter samman. Men Trumps fortsatta popularitet illustrerar riskerna med accelerationism: saker kan förbli mycket dåliga under mycket lång tid, innan de möjligen blir bättre.

Jag är inte särskilt övertygad om påståendena att AI utgör en fara för mänskligheten; att de skulle kunna utveckla egna mål och hindra oss från att stänga av dem. Faran är snarare att AI-laddade företag förstör miljön och hotar arbetarklassen i sin jakt på aktieägarvärde. Snarare är kapitalismen den maskin som kommer att göra vad som helst för att hindra oss från att stänga av den.

Människor som kritiserar ny teknik kallas ibland för ludditer, men det är bra att klargöra vad ludditerna i England i början av 1800-talet egentligen ville. De protesterade mot att lönerna sjönk samtidigt som fabriksägarnas vinster ökade, liksom matpriserna. De protesterade också mot osäkra arbetsförhållanden, barnarbete och försäljning av undermåliga varor. Ludditerna förstörde maskiner men inte urskillningslöst. Om en maskinägare betalade sina arbetare bra, lämnade de den fabriken ifred. Ludditerna var inte teknikfientliga, utan ville ha ekonomisk rättvisa. 

Att ordet ”luddit” i dag används som en förolämpning, ett sätt att beteckna någon som irrationell och okunnig, är ett resultat av smutskastning från kapitalets sida.

I dag sammanblandas teknik och kapitalism, som i sin tur förväxlas med framsteg. Den som kritiserar kapitalismen anklagas för att vara emot både teknik och framsteg. Men vad är det för mening med ökad effektivitet, om de pengar som sparas inte går någon annanstans än till aktieägarnas bankkonton?

Föreställ dig en idealiserad framtid, hundra år från nu, där ingen tvingas arbeta på ett jobb de ogillar och där alla kan ägna sin tid åt det som de tycker är mest personligt givande. Men tänk nu på två möjliga scenarier för de närmaste decennierna. I det ena är företagen och kapitalkrafterna ännu mäktigare än i dag, i det andra är arbetskraften mäktigare. Vilken av dessa två för oss mest sannolikt närmare den idealiserade framtiden?

Naturligtvis finns argumentet att ny teknik förbättrar vår levnadsstandard på lång sikt, vilket kompenserar för den arbetslöshet som den skapar på kort sikt. Denna omständighet vägde länge tungt efter den industriella revolutionen, men förlorade i kraft under det senaste halvseklet. I USA har bruttonationalprodukten per capita nästan fördubblats sedan 1980, medan hushållens medianinkomst har halkat långt efter. Denna tidsperiod omfattar den informationsteknologiska revolutionen. Det innebär att det ekonomiska värde som skapats av persondatorer och internet främst har bidragit till att öka förmögenheten för den översta procenten av den översta procenten, i stället för att höja levnadsstandarden för USA:s medborgare i allmänhet.

Visst är internet är fantastiskt. Men fastighetspriserna, studieavgifterna och sjukvårdskostnaderna har alla stigit snabbare än inflationen. År 1980 var det vanligt att försörja en familj på en enda inkomst; numera är det sällsynt. Så hur stora framsteg har vi egentligen gjort under de senaste fyrtio–femtio åren? Visst är det enkelt att handla på nätet och det är coolt att streama filmer hemma, men jag tror att många människor gärna skulle byta dessa bekvämligheter mot möjligheten att äga sitt eget hem, skicka sina barn till college utan att dra på sig livslånga skulder och åka till sjukhus utan att gå i konkurs. Det är inte teknikens fel att medianinkomsten inte har hållit jämna steg med BNP per capita; det är främst den tidigare presidenten Ronald Reagans och nationalekonomen Milton Friedmans fel. Men en del av ansvaret faller också på verkställande direktörer som Jack Welch, som var VD för General Electric mellan 1981 och 2001, liksom på konsultföretag som McKinsey. Jag skyller inte den ökade ojämlikheten i välstånd på persondatorerna – jag säger bara att bättre teknik inte nödvändigtvis kommer att förbättra människors levnadsstandard framöver.

Det faktum att persondatorerna inte höjde medianinkomsten är särskilt relevant när man tänker på de möjliga fördelarna med AI. Det sägs ofta att forskare bör fokusera på hur AI kan öka enskilda arbetstagares produktivitet snarare än att ersätta dem. Detta kallas förstärkningsvägen i motsats till automatiseringsvägen. Det är ett vällovligt mål, men i sig kommer det inte att förbättra människors ekonomiska situation. Typiska exempel på förstärkning snarare än automatisering är de ordbehandlingsprogram som ersatte skrivmaskiner snarare än sekreterare, liksom kalkylprogram som ersatte beräkningsblad på papper snarare än bokföringspersonal. Men den ökade individuella produktivitet som persondatorn medförde motsvarades alltså inte av höjd levnadsnivå.

Det enda sättet för teknik att öka levnadsstandarden är att det finns en ekonomisk politik för att fördela teknikens fördelar på ett lämpligt sätt. Vi har inte haft någon sådan politik i USA under de senaste fyrtio åren, och om vi inte får det finns ingen anledning att tro att framtida framsteg inom AI kommer att höja medianinkomsten.

Det vore bekvämt att utgå från att en utopisk framtid ligger precis runt hörnet och att vi skulle kunna utveckla teknik för den framtiden. Men det faktum att viss teknik skulle vara användbar i en utopi innebär inte att den är användbar nu. I en utopi där det finns en maskin som omvandlar giftigt avfall till mat skulle det inte vara något problem att generera giftigt avfall, men här och nu skulle ingen kunna hävda att det är ofarligt att generera giftigt avfall. Accelerationister kan hävda att produktion av mer giftigt avfall kommer att skynda på att en omvandlare av avfall till mat uppfinns, men hur övertygande är det argumentet? Vi utvärderar olika teknikers miljöpåverkan mot bakgrund av de åtgärder som finns tillgängliga, inte mot bakgrund av hypotetiska framtida åtgärder. På samma sätt kan vi inte utvärdera AI genom att föreställa oss hur användbar AI kommer att vara i en värld med medborgarlön.

En tidigare partner på McKinsey har försvarat företaget genom att säga: ”Vi arbetar inte med policy. Vi sysslar med genomförande.” Men detta är en tunn ursäkt. Skadliga policybeslut tenderar att fattas när konsultföretag – eller ny teknik – erbjuder sätt att omsätta dem i praktiken. Många AI som för närvarande utvecklas gör det lättare för företag att minska sin personal. Så går det att utveckla en typ av AI som i stället gör det svårare?

I sin bok How to be an anticapitalist in the 21st century erbjuder sociologen Erik Olin Wright ett antal strategier för att motverka kapitalismens skadeverkningar. Två av dem är att krossa kapitalismen och montera ner kapitalismen, vilka förmodligen faller utanför ramen för den här diskussionen. Mer relevanta här är att tämja kapitalismen och att göra motstånd mot den. Att tämja kapitalismen innebär ökad statlig reglering, och att motstå den handlar om gräsrotsaktivism och fackföreningar. Finns det sätt för AI att stärka dessa saker? 

År 1976 hotades arbetarna på Lucas Aerospace Corporation i England av uppsägningar på grund av nedskärningar i försvarsutgifterna. Som svar tog fackföreningen fram ett dokument kallat Lucasplanen. Det beskrev 150 ”samhällsnyttiga produkter”, allt från dialysmaskiner till vindkraftverk och hybridmotorer för bilar, som arbetskraften kunde tillverka med befintlig kompetens och utrustning i stället för att bli uppsagda. Ledningen på Lucas Aerospace förkastade förslaget, men det förblir ändå ett anmärkningsvärt exempel på arbetare som försöker styra kapitalismen i mer mänsklig riktning. Något liknande måste väl ändå vara möjligt med modern datateknik.

Måste kapitalismen vara så skadlig som den är i dag? Kanske inte. De tre decennierna efter andra världskriget kallas ibland kapitalismens guldålder. Denna period var delvis resultatet av bättre regeringspolitik i hela västvärlden, men företagskulturen var också annorlunda vid den här tiden. I General Electrics årsredovisning för 1953 skröt företaget om hur mycket det betalade i skatt och hur mycket det spenderade på löner. Det stod uttryckligen att ”maximering av anställningstryggheten är ett av företagets främsta mål”. Grundaren av sjukvårdsproduktföretaget Johnson & Johnson sa att företagets ansvar gentemot sina anställda var högre än dess ansvar gentemot sina aktieägare.

Finns det något sätt att återgå till sådana värderingar? Det verkar osannolikt, men kom ihåg att kapitalismens guldålder kom några årtionden efter den enorma ojämlikheten i förmögenheter under den så kallade Gilded Age, cirka 1870–1900, då produktivitet och löner steg raskare i USA än någon annanstans i världen. Just nu lever vi i en andra Gilded Age, där ojämlikheten i förmögenhet är ungefär densamma som den var 1913, så det är inte omöjligt att vi skulle kunna gå från där vi är nu till en andra kapitalismens guldålder. Mellan den första Gilded Age i slutet av 1800-talet och kapitalismens guldålder 1945–75 hade vi trettiotalsdepressionen och två världskrig. En accelerationist skulle kanske säga att dessa händelser var nödvändiga för att få till stånd guldåldern efter andra världskriget, men jag tror att de flesta av oss skulle föredra att ha varit utan dessa steg. Den uppgift vi nu har framför oss är att föreställa oss hur AI- och annan teknik kan föra oss mot en ny guldålder utan att först orsaka en ny stor depression.

Vi är alla deltagare i kapitalismen vare sig vi gillar det eller inte. Och det är rimligt att undra om det finns något du som individ kan göra. Om du arbetar som livsmedelsforskare och ditt jobb är att uppfinna nya smaker av potatischips, anser jag inte att du har en etisk plikt att säga upp dig. Visserligen hjälper du till att driva på konsumismen, men du använder din utbildning som livsmedelsforskare för att ge kunderna en behaglig smakupplevelse. Det är ett helt rimligt sätt att försörja sig på.

Men många som arbetar med AI anser att AI är viktigare än att uppfinna nya smaker av chips. Om så är fallet har de skyldighet att hitta sätt för AI att göra världen bättre utan att först göra den sämre.

Om det finns någon lärdom som vi bör dra av berättelser om andar i flaskor som uppfyller önskningar, så är det att önskan att få något utan ansträngning är det verkliga problemet. Tänk på berättelsen om Trollkarlens lärling, där lärlingen uttalar en trollformel för att få ett kvastskaft att hämta vatten men inte kan få det att sluta. Lärdomen av den berättelsen är inte att magi är omöjlig att kontrollera, för i slutet av berättelsen kommer trollkarlen tillbaka och ordnar upp den röra som lärlingen har ställt till med. Lärlingen ville slippa sina sysslor, och det var när han letade efter en genväg som han hamnade i trubbel.

Tendensen att betrakta AI som en magisk problemlösare innebär att man vill undvika det hårda arbete som krävs för att ta itu med ekonomisk ojämlikhet. För IT-folk och ingenjörer kommer den svåraste uppgiften av alla att vara att ifrågasätta att mer teknik alltid är bättre. Ingen tycker om att tänka på sin delaktighet i världens orättvisor, men det är nödvändigt att de människor som bygger banbrytande teknik ägnar sig åt kritisk självrannsakan. Det är deras villighet att se sin egen roll i systemet som kommer att avgöra om AI leder till en bättre eller sämre värld.