Rättvisa algoritmer garanterar inte likvärdig skola

Bild

En forskargrupp vid Göteborgs universitet som ägnar sig åt lärares användning av artificiell intelligens i undervisningen argumenterar för att de riktlinjer och policydokument som styr hur systemen används i skolan behöver handla mer om hur AI ska tillämpas på ett rättvist sätt. Det är nödvändigt för att lärare ska få ett bra stöd i sitt arbete och för att säkerställa en likvärdig undervisning.

Begrepp som rättvisa och likvärdighet används flitigt i sammanhang där man pratar om AI och skola, men det är inte alltid tydligt vad begreppen innebär i praktiken.

Möjlighet att anpassa systemen

Forskargruppen menar vidare att det i många fall finns en övertro på att skapa så kallade rättvisa algoritmer och att rensa datan från fördomar och partiskhet. I själva verket borde man fundera över sådant som hur lärare ska kunna göra egna anpassningar i verktygen för att de ska fungera för just deras elever.

– Om vi pratar om att AI-system ska vara rättvisa och likvärdiga kan man inte titta på dem som generella system eller som att teknologin i sig ska vara rättvis. Man missar viktiga faktorer om man inte tittar på vad som händer när de tillämpas i klassrummet och i skolan, säger Marie Utterberg Modén, postdoktor i IT och lärande och en av författarna till artikeln When fairness is an abstraction: equity and AI in Swedish compulsory education.

Systemen uppfattas som objektiva

I artikeln beskrivs hur en proteströrelse under parollen ”F*ck the algorithm” formades efter att ett AI-system använts för att ersätta de traditionella antagningsproven inför universitetsstudier i England under coronapandemin. I systemets algoritmer bearbetades sådant som elevernas tidigare prestationer och förslag på betyg från deras lärare för att få fram ett resultat. Man hade också vägt in genomsnittligt resultat från tidigare årskurser från de skolorna de respektive eleverna gick på, för att motverka en förväntad betygsinflation. Allt för att skapa ett så rättvist system som möjligt. Utfallet visade att elever från socialt utsatta områden missgynnades när betygen sattes och metoden mötte därför hård kritik och gav upphov till en omfattande, global debatt om AI och rättvisa.

– Det är lätt att lita på sådana här system, eftersom de uppfattas som objektiva, säger Marie Utterberg Modén.

– Men de fungerar så att de förstärker, kategoriserar och innehåller fördomar som beror på oss själva. Vi ser saker på ett visst sätt och för in det i systemen. I England tänkte de att systemet de tog fram skulle ta hänsyn till de olikheter som fanns, men till slut fick de inse att det inte fungerade bra och att framför allt elever med goda resultat i de lägre socioekonomiska områdena blev drabbade.

Lika tillgång till teknologin

När det kommer till den svenska skolan ser Marie Utterberg Modén en risk att AI-verktygen inte kommer eleverna till dels på lika villkor. Privata skolor går till skillnad från kommunala med vinst. De har medel att investera i systemen och kan i större utsträckning ge elever och lärare möjlighet att lära sig att använda dem.

I undervisningen skulle till exempel generativ AI kunna kopplas ihop med digitala läromedel och fungera som en resurs som pratar med eleven, ger råd och vägledning och kan hjälpa till att förstå läxorna. Om endast vissa skolor implementerar de här systemen, eller om lärares kompetens att använda dem skiljer sig åt, bidrar det till ojämlikheter i hur undervisningen anpassas till elevers olika förutsättningar. Detta i sin tur ökar skillnaderna i elevernas möjligheter till stöd.

– Vi ser att likvärdigheten i skolan har minskat. Då är det viktigt att om vi nu för in sådana här system, måste de helst göra så att vi får en bättre likvärdighet och i alla fall inte göra så att den blir ännu sämre, säger Marie Utterberg Modén.

Text: Agnes Ekstrand