Kultur

Tekniken kan frälsa eller förinta världen – ändå är det mest experter som pratar om den

Text: Claes-Magnus Bernson

Artificiell intelligens har potential att revolutionera hela mänsklighetens existens. Om detta är de flesta överens. Skribenten och författaren Claes-Magnus Bernson menar att debatten om dess framtid måste föras av fler än fysiker, matematiker och filosofer. Det är nämligen inte bara dem som dör om det går riktigt snett.

Vad du kommer att läsa kan låta som science fiction. Men om du likt mig saknar specialistkunskaper bör du fråga dig om dina föreställningar om framtida teknik verkligen borde räknas.

Frågar du en betydande mängd forskare, utvecklare eller businessfolk som Bill Gates och Elon Musk verkar mardrömsscenarion som hämtade från science fiction rimliga att åtminstone beakta. Många menar att den hausade artificiella intelligensen (AI) kanske inte leder till robotarméer som vänder sig emot oss men att samma teknik ändå kan utgöra ett existentiellt hot mot mänskligheten.

De flesta av våra uppfattningar har grund i saker vi saknar inblick i. Om du är skeptisk mot bilden av förhållandena i djurfabrikerna, kanske du har möjlighet att se tillståndet själv. Men hur är det med klimathotet? Om du inte har kunskap nog att granska argumenten tvingas du lita på andra.

Om branschfolk, även om uppfattningen är kontroversiell, tror att AI skulle kunna få katastrofala följder för mänskligheten borde vi kanske lyssna?

I Open AI Letter (2015) menar en imponerande samling namn – vetenskapsmän, utvecklare, filosofer – att vi visserligen inte bör sluta med AI men att vi närmar oss en kritisk punkt där vi skulle kunna förlora kontrollen. Därför vill de lyfta en diskussion om hur vi kan begränsa riskerna.

Om riskerna vid närmare granskning inte går att avfärda som fullkomligt vettvilliga, är det angeläget att initiera en bred diskussion eftersom riskhanteringen annars kommer att skötas av företag, som bara i bästa fall är ansvarstagande. Många är överens om att AI inom kort kan bli den enskilt viktigaste sektorn i ekonomin och nyligen hävdade Vladimir Putin att nationen med mest avancerad AI kommer att kontrollera världen. Kina vill bli världsledande på AI 2030 och har precis etablerat ett enormt forskningscenter. Mycket tycks stå på spel.

Uppfinnaren Ray Kurzweil, forskningschef på Google, är entusiastisk vad gäller livet efter ”singulariteten”, den tidpunkt då AI uppnår en generell intelligens likvärdig med vår samt därefter hastigt förbättrar sig själv. Kurzweil spekulerar hejvilt kring AI och förutsäger utifrån en variant av Moores lag ett konkret årtal (2045) samt beskriver händelsen som paradisisk. Han menar att risken att AI skulle orsaka vår undergång är minimal.

Den svenska filosofen Nick Bostrom, chef för Institute for the Future of Humanity vid Oxforduniversitet, driver i boken Superintelligens (på svenska 2017) en mer nyanserad argumentation och menar att om inga yttre hinder uppstår (kärnvapenkrig, naturkatastrofer) är det troligt att AI kommer bli mer intelligent än människor, även om ingen kan förutse när det kan ske. Men om det inträffar följer ofrånkomligen en intelligensexplosion, enligt Bostrom.

Anledningen är enkel: människans intelligens har tydliga gränser. En AI kunde däremot snabbt anpassa sitt sätt att fungera genom rekursion. Föreställningen är lika gammal som datorn och vissa menade redan tidigt att stark AI ”inom kort” skulle bli verklighet. Fokus för Bostrom ligger dock mer vid vad detta skulle innebära. Skulle vi vid behov kunna ”dra ut sladden”? Bostrom svarar inte entydigt även om han menar att svaret nej är betydligt mer troligt.

Bostroms mest kända exempel är en gemfabrik som styrs av AI. En dag händer något med den självförbättrande AI:n, dess intelligens blir överlägsen och historien slutar med att den gör jorden till en stor gemfabrik. Det låter förstås lustigt. Men de bakomliggande resonemangen är inte triviala: om dess ursprungliga syfte var att optimera gemproduktion, vore det inte helt orimligt att den skulle hålla fast vid denna ambition. Dess överordnade avsikt vore inte att skada oss, bara att optimisera produktionen av gem.

Om Bostrom erbjuder otroligt intelligenta, låt vara spekulativa filosofiska argument i sina försök att få grepp om AI och vad som bör göras för att behålla kontrollen, tar den svenska fysikern Max Tegmark, verksam vid MIT, ett helhetsgrepp och går i sin Liv 3.0 (svensk översättning 2017) systematiskt igenom vad han kallar vår tids viktigaste fråga samt belyser den från alla möjliga håll. Av de böcker jag läst i ämnet är Tegmarks mest lämpad som introduktion och framstår som det kanske mest seriösa inlägget hittills riktat till oss icke-specialister.

Vad som händer med vår existens och självbild om AI blir överlägsen är kanske tyvärr mer än ”intressant”. Historikern Yuval Harari genomlyser bland annat denna fråga i Homo Deus och konstaterar att automatiseringen faktiskt kan leda till att de flesta av oss står utan arbete, vilket naturligtvis skulle omstöpa samhället. Hans huvudsakliga tes är dock att det vore otroligt om homo sapiens var evolutionens sista anhalt.

Även om det är omöjligt att bestrida briljansen hos många författare som skriver om AI, så bejakar många bestickande nog även transhumanistiska ideal och är positiva till genteknik osv. En del är även öppna med att enorma klassklyftor skulle infinna sig och även om utvecklingen kan vara oundviklig, vore det djupt problematiskt att utifrån humanistiska, liberala värden skrika högt av glädje inför Den Nya Sköna Världen.

Men om vi alls bör fästa vikt vid vad forskare har att säga bör vi lyssna även i denna fråga. Ingen känner framtiden. Det betyder dock inte att sakkunniga inte kan ge mer eller mindre goda argument för hur den skulle kunna utvecklas. Det här sägs gälla något som skulle kunna ge oss enorma fördelar men även få katastrofala följder. Därför bör diskussionen inte enbart föras av specialister. Att presentera perspektiv är inte samma sak som att leverera lösningar, allra minst om frågan rör hela mänskligheten.

Att betänka säkerhetsfrågor när man arbetar med känslig teknik framstår som sunt även om det senare skulle visa sig att farhågan var ogrundad. I en värld som alltmer förlitar sig på teknik och där allt kopplas ihop, blir rimligtvis samma teknik som möjliggör den moderna verkligheten även dess ömmaste punkt. Även om viktiga system redan idag styrs av AI, bör vi ställa frågan om hur mycket kontroll vi vill frånhända oss utan att ha goda skäl att tro att vi i slutändan äger tekniken snarare än tvärtom.

Claes-Magnus Bernson är frilansskribent och science fiction-författare.

cmbernson@gmail.com

Fler artiklar av Claes-Magnus Bernson

Prenumerera 6 nummer per år för 200 kr