AI & makten över besluten

Vad alla borde veta om algoritmer i offentlig sektor

 

Allt fler offentliga beslut fattas av algoritmer. Automatiserade processer kan avgöra vilken skola du hamnar i, vad du ska få för vård och om du har rätt till bidrag eller inte. Beslut som är avgörande för ditt liv och din hälsa.  

Denna antologi samlar texter som lyfter vår blick mot vad som händer när vi låter algoritmer ta offentliga beslut: Vad blir nytt när AI införlivas i samhällskroppen? På vilket sätt påverkar till synes små steg helheten? Och hur kan vi få en fungerande insyn i den automatiserade beslutsprocessen om det ens går?  

Är det rimligt att offentliga aktörer enskilt ska uppfinna egna lösningar, när de har liknande behov? Hur säkerställer vi att systemen som implementeras inte blir dyra och dåliga? Och kommer en medborgare kunna överklaga ett beslut taget av en digitaliserad förvaltning?  

AI & makten över besluten tar upp exempel på allvarliga fel som uppstått till följd av automatiserade beslutsprocesser men också den verkliga potentialen om vi säkerställer hållbara lösningar och vägar framåt mot dessa.  

Maja Fjaestad är docent i teknikhistoria, affilierad forskare vid Institutet för Framtidsstudier och expertkoordinator vid Centrum för Hälsokriser vid Karolinska Institutet. Simon Vinge är chefsekonom på Akademikerförbundet SSR, som länge engagerat sig i de algoritmer som allt mer styr beslutsfattandet och arbetets innehåll inom offentlig sektor.

Sagt om boken:

Vi står inför ett teknikskifte där AI införs i helt nya verksamheter. Det är av största vikt att detta sker med omsorg och gott omdöme. Jag välkomnar därför boken AI & makten över besluten och att någon lyfter de demokratiska aspekterna av AI.Carl-Henric Svanberg, ordförande svenska AI-kommissionen, styrelseordförande AB Volvo

It is important for democratic societies to understand the possible influence of AI and algorithms on the structures and fundamentals of our societies. We need to talk about how we are going to deal with that; that´s why I welcome this book and the debate it has initiated.Katrín Jakobsdóttir, Islands statsminister 2017–2024

en antologi om vad som händer när algoritmer fattar beslut i offentlig sektor låter kanske inte så hett, men det är oväntat spännande Sophia Sinclair, Svenska dagbladet

Skribenterna har genomgående bra språkligt flyt och texterna är korta och skarpa. Målgruppen är en bred läsargrupp med intresse för samtidsfrågor och utvecklingen på AI-området. Boken är mycket läsvärd och bidrar med ett nödvändigt och mycket välkommet problematiserande perspektiv på en fråga som IT-sektorn har stort inflytande över – som om den bara handlade om teknik Mats K.G. Johansson, Bibliotekstjänst

I antologin AI & makten över besluten (…) vrider och vänder en rad forskare och experter på frågor som uppstår när allt fler myndighetsbeslut fattas med hjälp av algoritmer och AI. Vad händer med insyn och transparens? Rättvisa? Demokratin? Marie Alpman, Forskning & Framsteg

Innehåll:

Charlotta Kronblad Algoritmisk orättvisa  Göteborgs felkodade algoritm för skoplaceringar  

Johan Hirschfeldt Algoritmer och sociala bidragssystem: två nationella skandaler  

Macus Matteby Om ett ministerbesök, intraprenörer och kommunala perspektiv: en uppgörelse  

Marcin de Kaminski Digitala hot och risker som formativ ledstjärna  

Ulrika Björkstén Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin  

Nasim Farrokhnia Algoritmer i vården: hot eller möjlighet för profession och patient?  

Fia Ewald Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering  

Stefan Larsson Om juridisk fixering och flexibilitet  den europeiska AI-förordningen och generativ AI  

Cecilia Magnusson Sjöberg Algoritmerna och rättssäkerheten juridik, administration och teknik måste väga lika  

Jacob Dexe Transparensproblemet: Att förklara en algoritm  

Karim Jebari Artificiell intelligens och offentlig rättfärdighet