Samspel mellan mänskligt omdöme och AI

Bild

I såväl arbetslivet som i det privata hjälper artificiell intelligens (AI) många av oss i våra beslut. Som exempel får vi hjälp av fondrobotar med att placera våra sparpengar och AI-verktyg hanterar delar av rekryteringsprocesser. Ett syfte med detta är att undvika den så kallade ”mänskliga faktorn” och få fram beslut, eller rekommendationer, som inte är färgade av mänskliga fördomar och personliga åsikter. Teknologin kallas för automatiserade beslutsfattande system, eller ADS (Automated Decision-making Systems).

Dina Koutsikouri är docent i informatik vid Göteborgs universitet och medförfattare till artikeln Human judgment in the age of automated decision-making systems där ADS som verktyg i organisationer har studerats och där författarna lyfter vikten av att försöka förstå vad som egentligen skiljer mänskligt och maskinellt beslutsfattande åt.

– Jag och mina forskarkollegor och medförfattare vill hävda att ADS saknar vissa mänskliga förmågor, eller en särskild sorts mänsklig intelligens om man så vill. Det hade varit enkelt om vi kunde förlita oss helt på en maskin som lagrar alla nödvändiga data för att fatta beslut, men det mänskliga omdömet behövs för att komplettera och höja kvalitén på AI-baserade beslut, säger hon.

Till skillnad från de ADS-system som finns idag baserar människor inte bara sina beslut på rationell logik och mönsterigenkänning i data, utan också på sådant som känslor, erfarenheter och etiska överväganden. De här förmågorna, menar forskarna, är värdefulla och till och med nödvändiga att väga in i det AI-baserade beslutsfattandet. Det kan nämligen finnas viktiga aspekter som AI inte uppfattar och förstår fullt ut.

– I nuläget är det högst tveksamt om det över huvud taget är möjligt för maskiner att utveckla kvaliteter som mänskligt omdöme, hänsynstagande och empati, säger Koutsikouri.

De viktiga frågorna

Ett område där de mänskliga förmågorna är särskilt viktiga är Koutsikouris eget – forskningen. AI tar bara hänsyn till rena data och ställer inte samma kritiska frågor som de mänskliga forskarkollegorna gör, så som ”vad missar jag här?”, ”vad känner vi inte till?” och ”vad säger min känsla för etik om det här?”. Det finns en mängd andra yrken som Dina Koutsikouri menar inte kan helautomatiseras – åtminstone inte än.

– Jag skulle säga att de flesta yrken som innebär mellanmänsklig kontakt kräver mänskligt omdöme. På en akutmottagning behöver sjukvårdspersonalen snabbt dels kunna tillgodogöra sig information om patientens sjukdomshistorik och aktuella symptom, dels använda sina sinnesintryck för att ta in och analysera specifika detaljer hos patienten och situationen.

I sin undervisning ser Koutsikouri också hur avgörande de mänskliga kvalitéerna är.

– Det räcker inte att skapa intressant innehåll till föreläsningar och seminarier. Du måste också kunna anpassa dig till dynamiken i salen och känna av när du ska stanna upp och öka tempot i undervisningen. Här kan AI och ADS fungera som ett bra stöd, men de kan inte på egen hand hantera den oförutsägbarheten som finns i verkliga situationer.

En kunskapskälla i ständig utveckling

Vad vet vi idag om hur människans omdöme fungerar? Koutsikouri beskriver det mänskliga omdömet som en kunskapskälla i ständig utveckling som kan vägleda oss när vi agerar och fattar beslut. Människor har förmågan att ta in en hel situation, från sinnesintryck som lukt och ljud till kulturella och geografiska aspekter. Hon ser vikten av att utforska det mänskliga omdömet för att bättre förstå vad som utmärker det.

– Något som jag observerat när jag har forskat om det mänskliga omdömet är att vi ofta tror oss förstå människans sätt att fatta beslut bättre än vi förstår algoritmernas, och vi lägger mer kraft på att försöka förklara algoritmerna än det mänskliga omdömet. Det mänskliga förblir ofta en oförklarlig ”blackbox”, säger hon.