Algoritmer inför domstol
År 2020 placerade Göteborgs stad drygt tolv tusen barn i skolor genom att använda en algoritm, något som gav många barn ohållbart lång resväg till skolan. För att felet skulle rättas till bestämde sig en förälder till en av de drabbade eleverna för att stämma staden. Samma förälder har forskat på automatiserat beslutsfattande i offentlig verksamhet med utgångspunkt i de egna erfarenheterna.
I podden ”Fabriken” medverkar Charlotta Kronblad i ett avsnitt med titeln AI och orättvisa beslut. Där beskrivs fallet med Göteborgs stads skolplaceringar och andra situationer där algoritmer varit inblandade i beslut som fått allvarliga konsekvenser.
Lyssna på podden: https://sverigesradio.se/avsnitt/ai-och-orattvisa-beslut
Hon har skrivit ett kapitel i antologin AI & makten över besluten: Vad alla borde veta om algoritmer i offentlig sektor.
https://volante.se/bocker/ai-makten-over-besluten/
Resultaten av hennes forskning går också att läsa om i artikeln ”When Justice is Blind to Algorithms: Multilayered Blackboxing of Algorithmic Decision Making in the Public Sector”, publicerad i MIS Quarterly och skriven tillsammans med forskarkollegorna Magnus Mähring och Anna Essén. I artikeln positioneras rättsprocessen som en ”deliberate field intervention” och ”engaged scholarship”. Det är också ett bra exempel på att kombinera olika akademiska fält och kompetenser för att tillsammans komma åt riktiga samhällsproblem, beskriver Kronblad.