Bild: www.vpnsrus.com
Många av oss har genom science-fiction-litteraturen – med författare som exempelvis Isaac Asimov – gläntat på dörren till ett framtidssamhälle där datorer och robotar hotar att ta makten och där inte ens människans själva existens längre är något som kan tas för givet. Men bortom fantasin finns det idag såväl en kuslighet som möjlighet i den Artificiella Intelligensens utveckling. Chalmersprofessorn Olle Häggströms Tänkande maskiner – Den artificiella intelligensens genombrott är en lysande introduktionsbok i ämnet. Anders Karlsson har läst den.
Min stora fritidspassion är schack. En händelse 2017 kom att rikta mina blickar mot att det verkligen hänt något stort inom datorutvecklingen. Ända sedan strax efter andra världskriget har det lagts ner mycket energi på att programmera en dator vars spelstyrka skulle vara jämförbar med – eller till och med överglänsa – de ledande stormästarnas. Men trots omfattande satsningar gick man inte i land med denna uppgift. Datorn var väl så avancerad som världseliten i öppnings- och mittspelet, men i slutspelet stod den sig slätt.
Utvecklingen gick dock framåt och i maj 1997 kunde vi förnimma historiens vingslag när världsmästaren Garri Kasparov i vredesmod lämnade spellokalen efter att ha förlorat en match, som sträckte sig över sex partier, mot IBM:s dator Deep Blue. Det var alltså inte någon sensation när Alpha Zero, en skapelse vars förmåga tydligt överskred Deep Blues, 20 år senare såg dagens ljus. Nej, det var själva sättet, med vars hjälp Alpha Zero tillägnat sig spelstyrka, som utgjorde ett kvalitativt språng. Medan alla dess föregångare varit rikligt programmerade med öppningsregister och principer för ställningsbedömning, hade Alpha Zero enbart schackets spelregler inprogrammerat. På bara några timmar uppnådde datorn en häpnadsväckande skicklighet. Antalet möjliga schackpartier är långt fler än alla elementarpartiklar i det hittills kända universum och hänger samman i en snabbt förgrenande trädstruktur. Genom att gång på gång spela mot sig själv vandrade Alpha Zero omkring i denna struktur och fick successivt allt mer förfinad kunskap om vilka slags drag som leder till förbättrade vinstchanser och vilka som bör undvikas.
Schackexemplet är en illustration över den utveckling som själva programmeringstekniken genomgått; från enkla steg-för-steg scheman till dagens metoder där datorn själv – utifrån ett antal grundläggande principer – klarar av att lösa en mängd problem. Istället för programmering brukar nu ofta begreppet maskininlärning användas. I princip handlar det om att ”träna” datorer att upptäcka och ”lära” sig regler för att lösa en uppgift, utan att datorerna har programmerats med regler för just den uppgiften.
Vi ser också talrika spår i gemene hens vardag där våra smartphones, och därtill fogade algoritmer, på en mängd vis sätter tydliga märken i tillvaron. Vi noterar det med USA:s fjärrstyrda drönarbombningar, programmerade mot mål i Pakistan eller Somalia. I Trelleborgs kommun är det inte socialsekreterare, utan maskinens algoritm som utreder och styr beviljandet av försörjningsstöd. Och tiden när självkörande fordon blir det dominerande inslaget i gatubilden ligger sannolikt bara något eller några decennier bort.
Teknikutvecklingen rymmer givetvis såväl risker som möjligheter där Häggström bland annat uppehåller sig vid följande faror:
Mördarvapen: Här har vi med dagens drönare fått en försmak av vad som kan bli morgondagens verklighet. Det är robotvapen som exempelvis kan komma att förfinas till föremål stora som insekter vilka i gigantiska svärmar är programmerade att attackera enskilda människor. Små massförstörelsevapen riskerar dessutom att bli betydligt lättare för terrorister att lägga beslag på än vad dagens kärnvapen är. Häggström varnar också för att rymden riskerar att bli uppmarschområde för en frenetisk kapprustning.
Övervakningssamhälle: Vår samtid ger flera prov på hur den nya tekniken öppnat upp för mer sofistikerade övervakningsmodeller. Det mest skrämmande exemplet är hur Kina – med ansiktsigenkänning som utgångspunkt – initierat pilotprojekt i delar av landet med något som regimen kallar för ett socialt kreditsystem. Varje medborgare betygsätts utifrån en modell där ”goda handlingar” ger pluspoäng och ”dåliga handlingar” minuspoäng. Medborgarna riskerar poängavdrag för allt från obetalda räkningar, trafikförseelser till regimkritiska yttringar. Straffpåföljden kan bli att möjligheten till banklån spärras, avstängning från det kollektiva trafiksystemet, ett eventuellt lägenhetsköp fryser inne, en akademisk karriär grusas, med mera. Nära kopplat till övervakningsproblematiken är all den information som samlas in om oss utifrån minsta knapptryckning på nätet, vilket gör att de budskap vi möter skräddarsys mot bakgrund av det enskilda subjektets personlighet, livshistoria och preferenser. Lite personlig kuriosa i sammanhanget är att så fort jag loggar in på morgonen serveras mig uppgiften om den aktuella temperaturen i min uppväxtort Hjo.
Techjättarnas monumentala inflytande: Techföretag som Google, Facebook och Alibaba har sett till omsättning och vinstnivåer snabbt etablerat sig bland världens ledande företag. Dynamiken är också att det idag dominerande maskininlärningsparadigmet inom AI-området kräver stora mängder data för att träna upp konkurrenskraftiga AI-produkter. Samtidigt är det techjättarna som innehar resurserna för att samla in dessa data. Att utveckla självkörande bilar kräver miljoner relevanta bilder som träningsobjekt. Risken är uppenbar att vi över tiden hamnar i en än värre maktkoncentration.
En aspekt som nästan helt lyser med sin frånvaro i Häggströms bok är hur AI tenderar att påverka arbetets innehåll och hur detta ofta sker i nära samspel med en skärpt övervakningsmekanism. Författaren nämner inte Mikael Nybergs Kapitalets automatik, det i sammanhanget rådande portalverket, varifrån jag här vill citera två belysande exempel, ett från hemtjänsten och ett från lagerarbete:
”Varje liten minut av våra arbetsdagar registreras. Ibland kan arbetsgivaren printa ut ett papper på vår arbetsdag och fråga vad vi gjorde där och där och där, tider vi inte varit inloggade hos en kund. Då får man berätta att ’där var jag på toaletten’ och ’där stannade en anhörig mig i porten och småpratade om sin mamma’” (vittnesbörd från en anonym undersköterska).
”I en del av lagret plockar arbetare för hand varor som ligger i kartonger och udda förpackningar. Orderplockaren måste fortfarande använda huvudet, men tankearbetet är förminskat och inordnat i pick to voice-systemet. Syntetrösten i örat talar om för arbetarna vad de ska göra, och genom en mikrofon ska de kontinuerligt upplysa den artificiella intelligensen om vad de har gjort. Det är som att timme efter timme kommunicera med en automatiserad telefonväxel” (interiör från Dagabs lager i Jönköping).
Befrielse från arbetet?
Vad är det för radikala möjligheter som en framtida AI-värld kan förverkliga? Häggström fokuserar främst vid att den fortlöpande automatiseringen ger oss chansen att drastiskt minska den tid vi tvingas ägna åt lönearbete. Med gillande citerar han den gamle socialdemokratiske ideologen Ernst Wigforss visioner: ”Om målet med samhällsutvecklingen skulle vara att vi alla skulle arbeta maximalt vore vi sinnessjuka. Målet är att frigöra människan till att skapa maximalt. Dansa. Måla. Sjunga. Ja, vad ni vill. Frihet”. För socialister är detta tankegångar med rötter tillbaka till 1840-talet och den unge Karl Marx utvecklande av alienationsbegreppet – samt därtill den associerade drömmen att vi en dag skulle ta steget från ”nödvändighetens rike” till ”frihetens rike”, och att människan därvid skulle påbörja sin ”verkliga historia”.
Visst öppnar AI vägen mot tidigare bara anade horisonter. En sådan sak att introducerandet av förarlösa fordon sannolikt ligger nära i tid eller att vi just sett ett genombrott när robotar kan utföra arbeten i mjuka material (enbart i Bangladesh sysselsätter textilindustrin 3,5 miljoner arbetare). Robotarna på verkstadsgolvet blir allt talrikare, snart kommer äldre omsorgsbehövande förmodligen att duschas av robotar, och redan har dessa maskiner börjat att användas i olika former av myndighetsutövning. Det mesta pekar mot att vi står inför en ganska så uppenbar reducering av lönearbetet. En smärre mottendens är dock alla de nya jobb som denna teknikrevolution även skapar. I Kapitalets automatik beskriver Mikael Nyberg – under rubriken ”Det gömda proletariatet” – hur maskininlärningen kräver enorma arbetarmassor i bland annat Kina och Indien: ”Enbart att lära robotbilarna att känna igen fotgängare, cyklister och andra hinder i trafiken är ett omfattande projekt. Arbetarna gör det genom att – ofta ruta för ruta – manuellt markera eller etikettera tusentals timmar videofilm från bilprototyper som kör runt i försöksområden som Silicon Valley, Pittsburgh och Phoenix”.
Den kanske viktigaste framtida sociala striden kommer att handla om att vi står inför en situation där många jobb försvinner. Om kapitalet får råda går vi mot en enorm massarbetslöshet, men annars kan vi genom att jämlikt dela på det nödvändiga arbetet få alla i sysselsättning med en radikalt minskad arbetstid. Tätt kopplat till det är också frågan om arbetets innehåll, att inte AI leder till en än värre urlakning av arbetets värde.
Häggström nämner att AI har en allt viktigare roll att spela inom sjukvården, liksom i ansträngningarna att sätta stopp för den globala uppvärmningen, men här saknar jag dock konkretiseringar med tydliga exempel. Jag skulle dessutom gärna sett ett resonemang om AI:s möjliga betydelse när det gäller ödesfrågor som framtida livsmedelsförsörjning och återvinning av metaller.
Risken för en AI-apokalyps?
Den kände fysikern Stephen Hawking förutspådde att AI leder till mänsklighetens undergång, och även flera andra prominenta forskare har höjt ett varningens finger. Med dagens AI har vi datorer som på enskilda områden matchar, och även i vissa fall tydligt överskrider, människans intelligens. Någon maskin som generellt matchar den mänskliga intelligensen. Artificiell generell intelligens (AGI) har dock ännu inte sett dagens ljus, och än mindre något som på alla områden vida överskrider människans kognitiva förmågor (Superintelligens). Vi vet heller inte om AGI uppnås inom något/några årtionden, det närmaste århundradet eller kanske inte alls? Forskarna verkar dock tämligen överens i sina profetior om att när väl AGI uppnåtts kommer steget till superintelligens vara tämligen kort. Kruxet är att vi på grund av maskininlärningens självständiga karaktär saknar förmåga att planera utvecklingen mot AGI och, i synnerhet, övergången till Superintelligens, utan det är ett kvalitativt språng som kommer att inträffa, så att säga bakom vår rygg, under en viss fas i AI:s utveckling. Vi vet inte heller hur denna superintelligenta maskin kan tänkas agera? Och då i värsta fall förinta mänskligheten.
Häggström ägnar mycket utrymme i boken åt att resonera kring detta skräckscenario. Här punkteras lekmannens enkla recept att det bara skulle vara att stänga av maskinen, för då har maskinen sannolikt redan skapat tusentals kopior av sig själv. Tankarna om hur vi kan förhindra en framtida katastrof handlar antingen om inkapsling (att maskinen försätts under ett ”hölje” utan möjlighet till internetuppkoppling), metoder för att man ska få maskinen att alltid lyda människan eller för att den själv ska kunna lista ut vad som är människans önskemål. Det är emellertid frågan om en vandring i ett tämligen okänt landskap där ingenting än så länge förefaller säkert.
Sammantaget bidrar Häggströms bok med för oss alla väsentliga insikter. Min uppenbara känsla när jag slår igen den är att mänsklighetens framtid kräver så mycket av samarbete och samordning – långt från kapitalismens förödande konkurrens och vinstjakt.
ARTIKELFÖRFATTARE
Anders Karlsson ingår i Röda rummets redaktion och är skribent
i Internationalen.
