Algoritmiskt beslutsfattande kan effektivisera den offentliga sektorn. Men vem håller vi till svars när myndighetsbeslut fattas av en svart låda, frågar sig Jacob Dexe, doktor i Människa-datorinteraktion.
När Göteborgs kommun använde en AI för skolplaceringar glömde man att algoritmen måste ta med i beräkningarna att det går en älv genom stan.
Det skapade en dominoeffekt där några barn placerades i skolor som låg geografiskt nära, men lokaltrafikmässigt långt borta, och i sin tur knuffade bort andra barn som behövde gå på skolor ännu längre bort. 450 barn placerades så långt bort från sitt hem att det bröt mot regelverken. Kommunen vägrade dock att erkänna att besluten var fattade av en algoritm, trots att en revision senare visade det. Föräldrarna som överklagade besluten förlorade i alla instanser.
Fallet, som beskrivs av Charlotta Kronblad i antologin AI & Makten över besluten (8tto förlag), är inte en sedelärande berättelse om hur dåligt tekniken fungerar utan i stället en slags Kafkaartad beskrivning av när svensk förvaltning möter AI-teknik.
I december 2025 meddelade civil- och digitaliseringsminister Erik Slottner (KD) att runt 100 myndigheter får utökade uppdrag i sina regleringsbrev. De ska nu redovisa hur de arbetar med data och AI och hur tekniken kan stärka deras verksamhet. Myndigheter som Exportkreditnämnden, Institutet för språk- och folkminnen, BRÅ och Fastighetsmäklarinspektionen ska tillsammans med flera universitet bidra till att höja sin egen och landets AI-förmåga.
Uppdragen kan, och behöver, förändra några av fundamenten i svensk förvaltning. Det handlar inte bara om att myndigheter kan bli mer effektiva, utan också om en djupare konflikt – principerna för hur myndighetsutövning fungerar utmanas i grunden. De AI-genererade besluten krockar helt enkelt med de logiker vi tagit för givna i förvaltningen.
En viktig grundpelare i förvaltningen är att myndighetsbeslut och grunderna för varför ett beslut tagits ska kunna visas och förklaras för medborgaren. Traditionellt är det en handläggare som måste motivera hur hen har tagit beslut som påverkar den enskilde. Det finns förvisso brister i mänskligt beslutsfattande men vi har, över tid, skapat strukturer såväl förvaltningsmässigt som juridiskt för att kunna ha både ett ansvarsutkrävande och en transparens i myndighetsbeslut. Vi kan helt enkelt fråga en människa hur hen har resonerat.
Utvecklingsavdelningens chef intog dock motsatt position menade att handläggarnas makt att säga emot algoritmens rekommendationer skulle begränsas.
Det går såklart att fråga en AI också, men det kommer inte att gå att veta exakt vilka faktorer som vägdes på vilket sätt för att nå ett visst beslut. Det finns genvägar – man kan redogöra för logiken i modellen, vilka data som använts, eller till och med publicera koden. Men dessa ger inte pålitliga svar. Generativa språkmodeller som ChatGPT klarar av att gå igenom stora mängder information och därefter generera svar som är sannolika. De beräknar vad som är den mest sannolika följden av ord och tecken givet en viss fråga och den information den har tillgänglig. Internetdebattören Cory Doctorow har kallat modellerna för ”spicy autocomplete” och sagt att ”ordförutsägelse med fler ord är inte intelligens” för att beskriva illusionen av att chattbotarna förstår världen.
Göteborg hävdade dock att det inte var en algoritm som tagit beslutet. På grund av det behövde de heller inte lämna ut någon information om algoritmen. Man menade att det var ett beslutsstödssystem men att handläggare hade tagit det slutgiltiga beslutet. När en grupp föräldrar överklagade besluten ställdes de inför det faktum att det var de, och inte kommunen, som behövde bevisa att en algoritm tagit beslutet. Och så länge kommunen förnekade fanns det inget som faktiskt kunde bevisa att så var fallet.
När Arbetsförmedlingen introducerade en algoritm som skulle hjälpa till med matchning för personer långt ifrån arbetsmarknaden ledde det till en öppen konflikt mellan handläggare och utvecklingsavdelningen. Handläggarna anklagade AI-systemet för att stirra sig blint på statistik utan hänsyn till mjuka värden. Utvecklingsavdelningens chef intog dock motsatt position menade att handläggarnas makt att säga emot algoritmens rekommendationer skulle begränsas: ”Vi tror kanske att man behöver förstärka riktlinjerna så att handläggare ifrågasätter lite mindre”, förklarade chefen för DN.
Några knutar i förvaltningen håller förvisso på att lösas upp. Förslag finns om att göra det lättare för myndigheter att dela data mellan varandra, och det finns mer resurser för att lära av varandra i offentligheten än det fanns för bara några år sen.
Men många knutar kvarstår, och om ”Sverige ska vara bäst i världen på att använda AI för att öka kostnadseffektiviteten samt höja kvaliteten och servicen i den offentliga förvaltningen” (som Sveriges AI-strategi har som ambition) måste politiken och samhället också svara på hur man ska göra i frågor om vilka möjligheter tjänstemän och medborgare ska ha att granska, påverka och ifrågasätta algoritmerna, i vilken utsträckning beslut ens behöver tas av handläggare, eller ska förvaltningen bara kunna använda algoritmer som går att förklara
Och viktigast av allt: på vilka principer ska den AI-förstärkta förvaltningen byggas?
Jacob Dexe
Gillar du det du läste? Stöd Liberal Debatt genom att teckna en prenumeration!