AI utvecklas i rekordfart och de senaste årens uppkomst av AI-verktyg som Chat-GPT har gjort AI tillgängligt för gemene man och därmed öppnat upp för oändliga möjligheter men också många fallgropar. I debatten har det talats mycket om reglering och ansvarfull hantering och under flera år har EU arbetat med att ta fram riktlinjer för AI som på sikt skulle resultera i en AI-förordning. I december 2023 nåddes en viktig milstolpe när man inom EU nådde en överenskommelse om utformningen av den nya förordningen, också kallad the AI Act, och den 13 mars röstade EU parlamentet igenom den nya AI-förordningen.
Oklart hur ramverk för AI ska implementeras
EU:s ambition att reglera AI var anledningen till att CSE-forskarna Krishna Ronanki och Beatriz Cabrero-Daniel beslutade sig för att titta närmare på EU:s ramverk, som ligger till grund för de nya reglerna, och jämföra det med andra länders och internationella organisationers ramverk för AI. Ramverken består av ett antal kriterier som bör uppfyllas för att AI ska vara tillförlitligt, vilket innebär AI-system som är robusta, etiska och följer lagen. Det kan exempelvis handla om kriterier som transparens, hållbarhet, säkerhet etc.
I studien, som publicerades sommaren 2023 och vann best paper-award på konferensen First International Symposium on Trustworthy Autonomous Systems, konstaterar forskarna att det saknas konkreta instruktioner och guider for att implementera dessa ramverk i utvecklingen av AI-systemen.
– Vi insåg att rekommendationerna antingen var för luddiga, motstridiga eller icke applicerbara, säger Beatriz Cabrero Daniel, postdoktor i Software Engineering vid institutionen för data- och informationsteknik, Göteborgs universitet och Chalmers.
I praktiken innebär det att det är upp till utvecklarna själva att tolka riktlinjerna, fortsätter Krishna Ronanki, doktorand i Software Engineering vid samma institution.
– De som utvecklar dessa AI system är programmerare och de skriver kod. De behöver förstå hur exakt man implementerar dessa olika parametrar i koden, och det är inte tydligt i riktlinjerna, säger han.
Skillnader mellan olika länders riktlinjer
En litteraturöversikt visar också att det finns stora skillnader mellan olika länders riktlinjer för AI. Forskarna har jämfört EU:s ramverk med riktlinjer i bl.a. Japan, Australien, Sydkorea men också organisationer som UNESCO.
– EU:s ramverk var det mest omfattande men där saknades några punkter som fanns med i andra riktlinjer. Exempelvis hade Japans riktlinjer mycket fokus på utbildning och att få allmänheten att förstå vad AI är genom olika utbildningsinsatser. Den delen fanns inte med i EU:s riktlinjer, säger Krishna Ronanki.
En viktig komponent för att skapa tillförlitlig AI menar forskarna är att det etiska resonemanget finns med från idéstadiet och att ramverken kan implementeras från start. Därför tycker Ronanki och Cabrero-Daniel att kravhantering, alltså ett sätt att ta fram och analysera krav, bör inkluderas i ramverken.
– När produkten är ute kan den endast bedömas binärt: antingen klassa den som tillförlitlig baserad på informationen man får av utvecklaren, eller så upptäcker man en brist och då är den inte tillförlitlig längre. Har man ett system som fångar upp brister i ett tidigt stadium så finns det också större möjlighet att åtgärda det, säker Krishna Ronanki.
Fotnot: Sedan studien publicerades 2023 har det tillkommit ett antal tillägg i EU:s riktlinjer, men dessa har enligt forskarna ingen påverkan på studiens resultat.
Fler nyheter från institutionen för data- och informationsteknik hittar du på vår huvudsida på Chalmers.se.
