Vad betyder den ökade övervakningen för vårt samhälle?

– I dagens digitala samhälle övervakas vi dygnet runt. Vi har myndigheters stationära kameror omkring oss, ibland även kroppskameror och drönare i offentliga miljöer. Vi lämnar spår när vi handlar och betalar med kort, vi använder mobiltelefoner och träningsklockor där olika uppgifter om oss loggas. På sociala medier som Facebook och Instagram förser vi generöst plattformarna med data om oss själva, säger Marie Eneman.

– Ofta är vi inte medvetna om i vilka situationer och i vilken omfattning data om oss samlas in, eller vad datan kan komma att användas till, nu eller i framtiden.

Bild

Ökade möjligheter för övervakning

Under de senaste åren har både statliga och privata aktörer fått ökade befogenheter att använda övervakning på nya sätt. Från politiskt håll finns stora förväntningar på att ökad övervakning ska öka säkerheten i samhället. Samtidigt bidrar det är till risker för grundläggande demokratiska rättigheter som yttrandefrihet och integritet.

– Dagens övervakningssystem har förfinats och blivit mer kraftfulla på sätt som möjliggör storskalig insamling, analys, delning och lagring av data. Dessutom är de subtilt inbäddade i nästan alla områden av våra liv, säger Marie Eneman.

Ny form av samspel mellan stat och kommersiella aktörer

För att kunna studera de här komplexa frågorna arbetar Marie Eneman tillsammans med en tvärvetenskaplig forskargrupp där forskare från områden som informatik, design, juridik, organisation och sociologi ingår.

Marie menar att de nya sätten att bedriva övervakning kan ses som en del av en växande och komplicerad utveckling av infrastrukturer, praktiker och tjänster som alla ingår i ett komplext samspel mellan statliga och privata aktörer.

– Gränsen mellan statliga och privata aktörer blir allt mer suddig, vilket ger upphov till nya utmaningar inte minst i relation till frågor om transparens, kontroll och individers integritet, säger Marie Eneman

– I vår forskning försöker vi förstå hur de här framväxande dataintensiva övervakningspraktikerna organiseras, styrs och regleras och viken innebörd integritet får i det sammanhanget. Integritet ska inte förstås som ett konstant begrepp, det är kontextberoende och omförhandlas hela tiden.

Ändringar av lagen som haft stor påverkan

Under 2020 skedde flera viktiga ändringar av svensk lagstiftning som gav brottsbekämpande myndigheter ett ökat mandat att använda övervakning.

– Polismyndigheten får nu till exempel själva fatta beslut om de ska införa och använda övervakning. Tidigare fick polisen vända sig till Integritetskydds-myndigheten och söka tillstånd och motivera sitt intresse och även visa på tänkbara konsekvenser för individers integritet. En annan ändring är tillkomsten av den nya lagen om Hemlig dataavläsning som jag och mina kollegor just nu undersöker i ett pågående projekt.

Hemlig dataavläsning skapar nya möjligheter – och nya problem för individers integritet

Hemlig dataavläsning är en lag som nyligen trädde i kraft i Sverige och som ger brottsbekämpande myndigheter lagligt stöd att vid misstanke om grov brottslighet 'hacka' sig in i en misstänkts datorer och telefoner genom att utnyttja sårbarheter i systemen. Svenska myndigheter har tidigare inte fått avlyssna krypterad data, men med den nya lagstiftningen kan de nu fånga upp information från meddelanden och konversationer i krypterade applikationer och program. De kan också aktivera en kamera eller en mikrofon i en digital enhet för att fånga ljud eller bilder från en misstänkt.

– Den nya lagen motiverades med att den är ett viktigt redskap i kampen mot organiserad brottslighet och den röstades igenom med majoritet i Sveriges riksdag. Men lagen har också kritiserats på grund av dess långtgående risker för enskildas integritet, säger Marie Eneman.

– Lagen är tidsbegränsad i fem år och kommer att utvärderas innan beslut fattas om den ska permanentas. Vår forskning ligger väl i tiden med utvärderingen och det finns ett stort intresse hos lagstiftare att ta del av våra kommande forskningsresultat.

Forskning om kroppsburna kameror

Marie Eneman med kollegor började tidigt forska om svenska polismyndighetens införande och användning av kroppsburna kameror. Resultaten av studierna visar att polisen ser ett värde i att använda de kroppsburna kamerorna. De upplever en ökad trygghet i sitt arbete och de ser också filmmaterialet som värdefullt bevismaterial. Samtliga intervjuade i den senaste studien uppgav att de kände sig bekväma med att använda kroppskameran som ett arbetsverktyg – så länge kameran inte var fjärrstyrd och den enskilde polisen själv fick fatta beslut om när den skulle vara på.

– Kroppskamerorna är små digitala mobila övervakningsapparater som spelar in både ljud och bild. Att kameran spelar in ljud medför enligt Integritetsskyddmyndigheten ytterligare risker för individers integritet, i synnerhet när polisen befinner sig i privat miljö. Det behövs en tydlig reglering för att inte alltför stort ansvar ska hamna på den enskilde polisen att fatta väl avvägda beslut om när kameran bör startas eller stängas av.

Övervakning baserad på AI

Marie Eneman med kollegor tittar också på användningen av artificiell intelligens, AI, och maskininlärning för övervakning.

– AI och maskininlärning lägger grunden för nya kraftfulla övervakningsmöjligheter som vi inte sett tidigare, säger Marie Eneman. Just nu är biometriska teknologier som ansiktsigenkänning, digitala fingeravtryck och DNA aktuella. I ett stort nordiskt forskningsprojekt undersöker vi den växande övervakningen vid Sveriges, Norges och Danmarks gränser. I slutet av året ska alla EU:s yttre gränser vara utrustade med biometriska teknologier som del av gränskontrollen, vilket innebär att Sverige håller på att förbereda sig för systemet som kallas EU:s Entry/Exit system. Det blir ett gigantiskt system där data ska delas mellan länder. Vår forskargrupp kommer att studera EES-implementationen med de tillhörande biometriska teknologierna.

– Förväntningarna på vad AI kan bidra med är stora ur brottsbekämpande myndigheters perspektiv. AI i övervaknings-sammanhang handlar bland annat om att automatisera analysen av stora datamängder. Genom att till exempel låta AI sköta ansikts-, rörelse- och objektigenkänning så kan identifieringsarbetet av en person eller ett objekt effektiviseras, säger Marie Eneman.

– Det är viktigt att betona att användningen av AI för övervakning samtidigt är mycket kontroversiell. Det finns stor oro för risker för demokratiska rättigheter som yttrandefrihet och integritet. EU definierar därför också ansiktsigenkänning som en 'högriskteknologi'.

Med tanke på de risker som kan finnas med biometrisk identifiering av enskilda personer i offentlig miljö, har ett förslag lagts fram på EU-nivå om att förbjuda användning av AI för ansiktsigenkänning på allmänna platser. Reglering och lagstiftning kommer att spela en viktig roll för området – bland annat det EU-förslag som handlar om harmoniserande regler för artificiell intelligens. Syftet är att skapa ett regelverk där potentialen med AI kan nyttjas, samtidigt som individers grundläggande rättigheter säkerställs.

Forskning om kontroversiell applikation

Forskargrupperingen har även studerat den svenska polisens användning av sådan AI-teknologi som inte har upphandlats av polismyndigheten.

– Det handlar om den kontroversiella ansiktsigenkännings-applikationen Clearview AI, som går långt utöver traditionella ansiktsigenkänningsteknologier. Företaget använder en automatiserad bildskrapa för att skrapa ansiktsbilder från det öppna Internet, till exempel från sociala medieplattformar som Facebook, Instagram och Twitter, säger Marie Eneman.

Bilderna används för att skapa en enorm biometrisk databas med foton på ansikten. Clearview säljer sedan åtkomst till databasen till brottsbekämpande myndigheter och privata säkerhetsföretag. Under en testperiod kan applikationen användas kostnadsfritt och ett antal svenska poliser har laddat ner Clearviews applikation och använt den för ansiktsigenkänning i utredningsarbete.

– EU har påpekat att Clearview AI:s förmåga att skydda data är mycket tveksam och dess säkerhetsnivå har ännu inte testats av oberoende part. Det kan därmed finnas stora risker med att miljontals EU-medborgare som delat personliga foton på sociala medieplattformar nu har sina porträtt i företagets databas.

– I Sverige genomfördes en formell tillsyn av polisens användning av Clearview AI, som konstaterade att användningen var att betrakta som olaglig. Fallet med Clearview är ett intressant exempel på hur myndigheter kan lockas att använda kraftfulla och lättillgängliga tekniker som inte har sanktionerats av myndigheten, men där förväntningar om effektivisering av polisarbetet blir drivande, säger Marie.

Medborgarnas syn på övervakning

Hur ser då medborgare på övervakning och integritet i det digitala samhället? Det har Marie Eneman och forskarkollegan professor Jan Ljungberg nyligen undersökt genom att medverka med frågor i SOM institutets nationella enkät. Våren 2023 får de dela med sig av resultaten från enkäten och underlaget kommer bli ett viktigt empiriskt bidrag kring hur opinionsläget ser ut för de aktuella frågorna om övervakning, säkerhet och integritet.

 

Text: Catharina Jerkbrant, 2023