Artificiell intelligens och dess automatiserade beslut ska ge oss en bättre offentlig förvaltning. Med hjälp av artificiell intelligens får vi flexibelt och snabbt beslut av jämn kvalitet, och inbesparingarna som automatiseringen ger är omfattande. I den nationella strategin för artificiell intelligens anges att den offentliga sektorn måste reformeras så att den kan klara av trycket från en åldrande befolkning. Automatiserat beslutsfattande har redan varit i bruk en tid bland annat vid Skatteförvaltningen och Folkpensionsanstalten.
Men när den offentliga förvaltningen digitaliseras verkar den vanliga medborgarens perspektiv glömmas bort. Biträdande professorn i juridik Riikka Koulu och forskardoktor Terhi Esko, som har en bakgrund inom sociologi, gick i sin undersökning igenom alla utlåtanden som gavs när den allmänna förvaltningslagstiftningen som gäller automatiserat beslutsfattande bereddes. För dem uppdagades en bild av ett lagstiftningsprojekt som drevs utgående ifrån förvaltningens villkor.
– Vi ville helt enkelt undersöka om medborgarnas perspektiv framträder och hur de som är föremål för automatiserade beslut omtalas. Vår slutsats var att medborgarnas perspektiv lyser med sin frånvaro på ett alarmerande sätt, sammanfattar Esko resultatet av undersökningen.
Bakgrunden till lagstiftningsprojektet var utöver EU:s allmänna dataskyddsförordning utlåtanden från riksdagens grundlagsutskott samt ställningstaganden från de högsta laglighetsövervakarna som visade att de automatiserade förfaranden som använts av flera myndigheter i åratal inte har någon rättslig grund. Forskarna fick en bild av en process vars syfte i praktiken var att säkerställa att redan befintliga automatiserade beslutsförfaranden kunde fortsätta. Någon kritisk diskussion om lagen förekom knappt.
I sin undersökning granskade de vilka aspekter och framtidsvisioner som kunde utläsas i utlåtandena om det automatiserade beslutsfattandet. I huvudsak betraktades frågor ur myndigheternas perspektiv: vad god förvaltning är, vilka fördelar en digital förvaltning och automatisering förväntas ge. Av svaren framgick en uppfattning om att medborgarna egentligen inte ens förväntas förstå den komplicerade teknik med vilken besluten fattas. Deras roll är främst att vara föremål för besluten.
Undersökningen genomfördes som en del av projektet SILE, som finansieras av Rådet för strategisk forskning, och inom ramen för forskningsprojektet DARE (Digital Administration Redesigned for Everyone) som finansieras av Finlands Akademi. Projektet är ett av många pågående projekt i Legal Tech Lab som leds av Riikka Koulu och som granskar digital förvaltning.
Glömd men betrodd medborgare
Medborgaren, som i lagstiftningsfasen hamnat i skymundan, har samtidigt fått en stor roll som kvalitetskontrollant av informationssystemen. Digitaliseringen medför en risk för att medborgarnas ansvar i allt högre grad inte bara består av att bevaka de egna rättigheterna, utan också av att hela systemet fungerar.
Till exempel begärs användare ständigt på allt mer respons på olika system och problem i systemen. På många webbplatser finns numera formulär som kan användas för att lämna in klagomål om webbplatsens tillgänglighet. Den användarvänliga möjligheten att anmärka på brister är i sig en utveckling i positiv riktning, men kan leda till att brister inte uppdagas om inte aktiva medborgare pekar ut dem.
Ansvaret för att klaga över automatiserade beslut ligger vanligtvis hos en enskild person, eftersom besluten ofta är personliga. Men om en person inte förstår hur beslutet har fattats, hur är det då möjligt att avgöra när det finns skäl att överklaga beslutet?
– Det här väcker frågan om vilka färdigheter medborgarna kan förväntas ha, säger Esko.
Om vårt rättssystem fungerar som det ska, klagar människor över felaktiga beslut. På det här sättet kommer de faktiska riskerna med digitaliseringen fram och problemen kan lösas. I takt med att informationssystemen blir alltmer komplicerade finns det emellertid en risk för att allt färre medborgare klagar över systemen och de beslut som fattas av dem. Det här skulle resultera i att vårt rättssystem blir tandlöst.
Forskning har visat att vi har en tendens att lita på datorer – vi utgår från att datorn kommer att fatta korrekta och objektiva beslut. Det här skulle kunna innebära att tröskeln för att till exempel klaga på ett skattebeslut kan bli högre när beslutet har fattats av en algoritm.
Våga utmana tilltron till digitaliseringen
I Finland har vi länge haft en stark tilltro till att vi måste skapa oss en konkurrensfördel genom att vara innovativa. Mycket få har vågat utmana det här narrativet eller den här teknikpolitiken.
– Vad händer om vi inte digitaliserar allt? Det här är en viktig fråga, men den ges inte utrymme någonstans. I Finland pågår ingen rättspolitisk debatt om var gränserna för digitaliseringen går, säger Riikka Koulu.
EU-statistik visar att vi är ett av Europas främsta länder när det gäller att digitalisera den offentliga förvaltningen. Detta är naturligtvis å ena sidan en bragd, men å andra sidan är det den som går i främsta ledet som också möter risker och eventuella problem först.
– Det betyder att vi inte kan kopiera bästa praxis från andra länder. Eller med andra ord har andra länder ännu inte stött på de problem som vi stöter på. Vi är rätt blinda för de här riskerna.
När vi diskuterar problemen med den digitala förvaltningens system uppstår lätt ett intryck av att systemen är en utmaning främst för äldre människor och inte för ungdomar som har vuxit upp med teknik. Man kunde därför anta att problemen kommer att lösas av sig själva, när en allt större del av befolkningen är van vid teknik från tidig ålder.
Enligt forskarna är det ett misstag att räkna med att unga människor är digitalt infödda. Ett tekniskt handlag bär nämligen inte långt om den unga personen inte förstår det underliggande samhälleliga systemet och inte kan kommunicera med myndigheterna.
– Vi skiljer fortfarande på digital kompetens och på medborgarfärdigheter. När du uträttar ärenden hos en digital förvaltning räcker det inte att du kan använda datorn, du måste också förstå hur myndigheterna fungerar, säger Koulu.
En sträng lag kan vara en styrka
I debatten om innovations- och teknologipolitiken stämplas vår lagstiftning ofta som en broms som skapar onödiga hinder för utvecklingen. I dessa diskussioner nämns Estlands möjliggörande lagstiftning ofta som ett positivt exempel som vi borde försöka efterlikna.
Estlands berömda flexibilitet bygger till stor del på att landet förnyade sin lagstiftning i och med självständigheten, då författningarna från sovjettiden skrotades.
– Vår konstitutionella tradition är många hundra år gammal och har sina rötter i den svenska tiden. Finlands tradition kan också vara en skyddande faktor som jag önskar att kunde utmana idén om att allt ska digitaliseras, säger Koulu.
Finlands och Sveriges gemensamma historia och liknande administrativa strukturer utgör också utgångspunkterna för ett finländsk-svenskt samprojekt som behandlar det automatiserade beslutsfattandet inom den offentliga förvaltningen.
Projektet ADM-Gov (The Automated Administration: Governance of ADM in the Public Sector) undersöker hur ett automatiserat offentligt beslutsfattande kan genomföras utan att undergräva god offentlig förvaltning eller medborgarnas grundläggande rättigheter och förtroende för offentliga institutioner. Inom projektet görs även jämförelser mellan Finland och Sverige, till exempel angående vilka spänningar EU:s kommande AI-förordning orsakar i de båda länderna. Grannländerna är bra jämförelseobjekt, för även om många frågor har lösts på liknande sätt finns det naturligtvis även skillnader mellan länderna.
I Sverige möjliggjordes automatiserat beslutsfattande inom den offentliga förvaltningen genom att i all enkelhet införa en skrivning om det i förvaltningslagen. I Finland var motsvarande lagändring mycket mer omfattande och bestod av flera nya paragrafer. Det visade sig snabbt att den svenska modellen var för enkel och i behov av korrigeringar. Inom ramen för projektet hoppas forskarna kunna ge tydliga svar på hur väl den nya finländska lagen i praktiken har lyckats förankras i myndigheternas bruk.
När en student behöver hjälp med att ansöka om studiestöd vänder sig hen inte längre till FPA:s närmaste verksamhetsställe, utan till FPA:s webbplats. Vår offentliga förvaltning har digitaliserats, vilket i praktiken innebär att människor inte längre konfronteras med en anställd utan med ett tekniskt användargränssnitt.
Användargränssnitten har blivit en central del av vår vardag, och de är praktiskt taget oundvikliga. Användargränssnittet är den del av informationssystemet som syns utåt mot användarna. Det kan vara en chattbot, en webbportal eller någon annan it-lösning som gör det möjligt för medborgarna att uträtta sina ärenden hos den offentliga förvaltningen.
Eftersom användargränssnitten är designade av människor kan de inte vara neutrala. Lyckade planeringslösningar ger information om användarens rättigheter och skyldigheter och gör det möjligt för medborgaren att föra ärendet vidare till myndigheten för att få en lösning. Mindre lyckade tekniska lösningar kan strida mot både lag och god förvaltning.
– Vi anser att användargränssnitten och utformningen av dem också bör betraktas som rättsliga fenomen, eftersom de direkt påverkar hur rättigheterna omsätts. Vi är intresserade av vad som antas om användarna, både medborgare och myndigheter, i användargränssnitten och vad de tvingar människor att göra för att komma i kontakt med myndigheterna, säger Riikka Koulu om utgångspunkterna för undersökningen.
Koulu leder forskningsprojektet DARE (Digital Administration Redesigned for Everyone) som finansieras av Finlands Akademi och som granskar samspelet mellan teknisk planering och det rättsliga ramverket. Projektet använder sig av flera metoder, däribland juridik, samhällsvetenskap och datavetenskap.
Syftet med forskningsprojektet är bland annat att utreda i vilken utsträckning myndigheternas tekniska användargränssnitt verkligen följer lagen. Projektet syftar också till att skapa förutsättningar för en ny forskningsinriktning: juridisk forskning om användargränssnitt.