Vad alla borde veta om algoritmer i offentlig sektor
Allt fler offentliga beslut fattas av algoritmer. Automatiserade processer kan avgöra vilken skola du hamnar i, vad du ska få för vård och om du har rätt till bidrag eller inte. Beslut som är avgörande för ditt liv och din hälsa.
Denna antologi samlar texter som lyfter vår blick mot vad som händer när vi låter algoritmer ta offentliga beslut: Vad blir nytt när AI införlivas i samhällskroppen? På vilket sätt påverkar till synes små steg helheten? Och hur kan vi få en fungerande insyn i den automatiserade beslutsprocessen om det ens går?
Är det rimligt att offentliga aktörer enskilt ska uppfinna egna lösningar, när de har liknande behov? Hur säkerställer vi att systemen som implementeras inte blir dyra och dåliga? Och kommer en medborgare kunna överklaga ett beslut taget av en digitaliserad förvaltning?
AI & makten över besluten tar upp exempel på allvarliga fel som uppstått till följd av automatiserade beslutsprocesser men också den verkliga potentialen om vi säkerställer hållbara lösningar och vägar framåt mot dessa.
Maja Fjaestad är docent i teknikhistoria, affilierad forskare vid Institutet för Framtidsstudier och expertkoordinator vid Centrum för Hälsokriser vid Karolinska Institutet. Simon Vinge är chefsekonom på Akademikerförbundet SSR, som länge engagerat sig i de algoritmer som allt mer styr beslutsfattandet och arbetets innehåll inom offentlig sektor.
Sagt om boken:
Vi står inför ett teknikskifte där AI införs i helt nya verksamheter. Det är av största vikt att detta sker med omsorg och gott omdöme. Jag välkomnar därför boken AI & makten över besluten och att någon lyfter de demokratiska aspekterna av AI.Carl-Henric Svanberg, ordförande svenska AI-kommissionen, styrelseordförande AB Volvo
It is important for democratic societies to understand the possible influence of AI and algorithms on the structures and fundamentals of our societies. We need to talk about how we are going to deal with that; that´s why I welcome this book and the debate it has initiated.Katrín Jakobsdóttir, Islands statsminister 2017–2024
en antologi om vad som händer när algoritmer fattar beslut i offentlig sektor låter kanske inte så hett, men det är oväntat spännande Sophia Sinclair, Svenska dagbladet
Skribenterna har genomgående bra språkligt flyt och texterna är korta och skarpa. Målgruppen är en bred läsargrupp med intresse för samtidsfrågor och utvecklingen på AI-området. Boken är mycket läsvärd och bidrar med ett nödvändigt och mycket välkommet problematiserande perspektiv på en fråga som IT-sektorn har stort inflytande över – som om den bara handlade om teknik Mats K.G. Johansson, Bibliotekstjänst
I antologin AI & makten över besluten (…) vrider och vänder en rad forskare och experter på frågor som uppstår när allt fler myndighetsbeslut fattas med hjälp av algoritmer och AI. Vad händer med insyn och transparens? Rättvisa? Demokratin? Marie Alpman, Forskning & Framsteg
Innehåll:
Charlotta Kronblad Algoritmisk orättvisa Göteborgs felkodade algoritm för skoplaceringar
Johan Hirschfeldt Algoritmer och sociala bidragssystem: två nationella skandaler
Macus Matteby Om ett ministerbesök, intraprenörer och kommunala perspektiv: en uppgörelse
Marcin de Kaminski Digitala hot och risker som formativ ledstjärna
Ulrika Björkstén Vetenskapsjournalistikens algoritmer före och under covid-19-pandemin
Nasim Farrokhnia Algoritmer i vården: hot eller möjlighet för profession och patient?
Fia Ewald Vem tjänar algoritmerna? Ett maktperspektiv på digitalisering
Stefan Larsson Om juridisk fixering och flexibilitet den europeiska AI-förordningen och generativ AI
Cecilia Magnusson Sjöberg Algoritmerna och rättssäkerheten juridik, administration och teknik måste väga lika
Jacob Dexe Transparensproblemet: Att förklara en algoritm
Karim Jebari Artificiell intelligens och offentlig rättfärdighet
