Tekoälyn ja sen mahdollistamien automaattisten päätösten luvataan tuovan meille paremman julkisen hallinnon. Tekoälyn avulla saamme tasalaatuisia ja nopeita päätöksiä joustavasti, ja säästöt ovat automatisaation myötä mittavia. Kansallisessa tekoälystrategiassa on linjattu, että julkista sektoria on uudistettava, jotta se voi selviytyä ikääntyvän väestön aiheuttamasta paineesta. Automaattisia päätöksiä on jo jonkin aikaa tehty muun muassa Verohallinnossa ja Kelassa.
Kun julkishallintoa digitalisoidaan tavallisen kansalaisen näkökulma tuntuu kuitenkin unohtuvan. Oikeustieteen apulaisprofessori Riikka Koulu ja sosiologitaustainen tutkijatohtori Terhi Esko kävivät tutkimuksessaan läpi kaikki lausunnot, jotka annettiin automaattista päätöksentekoa koskevan hallinnon yleislainsäädännön valmisteluvaiheessa. Heille piirtyi kuva lainsäädäntöhankkeesta, joka tehtiin hallinnon ehdoilla.
– Halusimme yksinkertaisesti katsoa, näkyykö kansalaisen näkökulma ja miten puhutaan heistä, jotka ovat automaattisten päätösten kohteena. Johtopäätöksemme oli, että kansalaiskulma loistaa hälyttävästi poissaolollaan, Esko tiivistää tutkimuksen tuloksen.
Lakihankkeen taustalla oli EU:n yleisen tietosuoja-asetuksen lisäksi eduskunnan perustuslakivaliokunnan lausunnot sekä ylimpien laillisuusvalvojien kannanotot, joiden myötä kävi ilmi, että useiden viranomaisten vuosikausia käytössä olleilla automaattisilla menettelyillä ei ole oikeudellista perustaa. Tutkijoille piirtyi kuva prosessista, jonka tarkoitus oli käytännössä varmistaa, että jo käytössä olevat automatisoidut päätösmenettelyt voivat jatkua. Kriittistä keskustelua laista ei juurikaan käyty.
Tutkimuksessaan he tarkastelivat, millaisia näkökulmia ja tulevaisuuden visioita automaattisesta päätöksenteosta oli tulkittavissa annetuista lausunnoista. Pääasiassa asioita katsottiin viranomaisten näkökulmasta: millaista hyvä hallinto on, millaisia hyötyjä digihallinnolla ja automaatiolla haetaan. Vastauksista välittyi ajatus, että kansalaisten ei oikeastaan edes oleteta ymmärtävän monimutkaista teknologiaa, jolla päätökset tehdään. Heidän roolinsa on lähinnä olla päätöksenteon kohde.
Tutkimus tehtiin osana Strategisen tutkimuksen neuvoston rahoittamaa SILE-hanketta sekä Suomen Akatemian rahoittamaa DARE-tutkimusprojektia (Digital Administration Redesigned for Everyone). Hanke on yksi monista digihallintoa tarkastelevista hankkeista, jotka ovat käynnissä Riikka Koulun johtamassa Legal Tech Labissa.
Unohdettu mutta luotettu kansalainen
Lainsäädäntövaiheessa varjoon jäävä kansalainen nousee vastaavasti isoon arvoon tietojärjestelmien laadunvalvojana. Digitalisaatio tuo mukanaan riskin siitä, että kansalaisten vastuulle jää lisääntyvässä määrin ei vain omien oikeuksien valvonta vaan vastuu myös siitä, että koko järjestelmä toimii.
Käyttäjiltä pyydetään esimerkiksi koko ajan enemmän palautetta eri järjestelmistä ja niiden ongelmista. Monilta verkkosivustoilta löytää nykyään lomakkeen, jolla voi tehdä kantelun sivuston saavutettavuudesta. Helppokäyttöinen mahdollisuus kannella puutteista on sinänsä myönteistä kehitystä, mutta voi johtaa siihen, että puutteet eivät tule ilmi elleivät aktiiviset kansalaiset ole tuomassa niitä esiin.
Automaattisista päätöksistä valittaminen jää yleensä yksittäisen ihmisen harteille, sillä päätökset ovat usein henkilökohtaisia. Mutta jos ihminen ei ymmärrä, miten häntä koskeva päätös on tehty, miten hän osaisi päätellä milloin on syytä valittaa päätöksestä?
– Tämä herättää kysymyksen, millaisia taitoja ihmisillä voi olettaa olevan, Esko sanoo.
Mikäli oikeusjärjestelmämme toimii kuten sen pitää, ihmiset valittavat virheellisistä päätöksistä. Tällä tavoin digitalisaation toteutuneet riskit tulevat esiin ja ongelmiin voidaan puuttua. Tietojärjestelmien käydessä yhä monimutkaisemmiksi on kuitenkin olemassa riski, että yhä harvempi kansalainen valittaa järjestelmistä ja niiden tekemistä päätöksistä. Näin ollen oikeusjärjestelmämme muuttuu hampaattomammaksi.
Tutkimus on osoittanut, että meillä on taipumus luottaa tietokoneisiin – oletamme, että tietokone tekee oikeita ja objektiivisia ratkaisuja. Näin ollen voisi ajatella, että kynnys valittaa esimerkiksi veropäätöksestä saattaa nousta, kun sen onkin tehnyt algoritmi.
Digiuskoa uskallettava haastaa
Suomessa on pitkään ollut vahva usko siihen, että meidän pitää hakea kilpailuetua olemalla innovatiivisia. Hyvin harva on uskaltautunut haastamaan tätä narratiivia tai teknologiapolitiikkaamme.
– Mitä jos kaikkea ei digitalisoidakaan? Se on keskeinen kysymys, joka ei saa oikein missään tilaa. Suomessa ei käydä oikeuspoliittista keskustelua siitä, missä digitalisaation rajat menevät, Riikka Koulu sanoo.
EU-tilastot osoittavat, että yhteiskuntamme on Euroopan kärkimaa julkishallinnon digitalisaation osalta. Tämä on tietenkin hieno saavutus, mutta asian toinen puoli on se, että ensimmäisenä kulkeva kohtaa riskit ja mahdolliset ongelmat myös ensimmäisenä.
– Se tarkoittaa, ettemme voi kopioida parhaita käytäntöjä muilta mailta. Tai toisin sanoen: muut maat eivät ole törmänneet niihin ongelmiin, mihin me törmäämme. Olemme aika sokeita näille riskeille.
Kun digihallinnon järjestelmien käytettävyyden ongelmista keskustellaan, syntyy helposti vaikutelma, että järjestelmät ovat haasteellisia lähinnä ikäihmisille eivätkä nuorille, jotka ovat pienestä pitäen kasvaneet teknologian parissa. Näin ollen voisi olettaa, että ongelmat ratkeavat itsestään, kun yhä suurempi osa väestöstä on tottunut laitteisiin pienestä pitäen.
Tutkijoiden mukaan on virhe laskea sen varaan, että nuoret ovat diginatiiveja. Tekninen näppäryys ei nimittäin vie kovinkaan pitkälle, mikäli nuori ei ymmärrä taustalla olevaa yhteiskunnallista järjestelmää eikä osaa asioida viranomaisten kanssa.
– Edelleen puhutaan digitaidoista erillään kansalaistaidoista. Jos asioit digihallinnon kanssa, ei riitä, että osaat käyttää tietokonetta, vaan sinun pitää myös ymmärtää, miten viranomaiset toimivat, Koulu sanoo.
Jäykkä laki voi olla vahvuus
Keskustelussa innovaatio- ja teknologiapolitiikasta lainsäädäntöämme leimataan usein ajastaan jäljessä olevaksi jarruksi, joka luo turhia esteitä kehitykselle. Näissä keskusteluissa Viron mahdollistava lainsäädäntö mainitaan usein esimerkkinä, johon meidänkin tulisi pyrkiä.
Viron kehuttu ketteryys perustuu paljolti siihen, että maa uudisti lainsäädäntönsä itsenäistymisen myötä, jolloin neuvostoaikaiset säädökset heitettiin romukoppaan.
– Meillä on satoja vuosia vanha perustuslaillinen traditio, jonka juuret ovat Ruotsin vallan ajassa. Suomen traditio voi olla myös suojaava tekijä, jonka toivoisin voivan haastaa ajatusta siitä, että kaikki pitää digitalisoida, Koulu sanoo.
Suomen ja Ruotsin yhteinen historia ja samankaltaiset hallinnolliset rakenteet muodostavat lähtökohdan suomalais-ruotsalaiselle yhteishankkeelle, joka niin ikään käsittelee automaattista päätöksentekoa julkishallinnossa.
ADM-Gov -hanke (The Automated Administration: Governance of ADM in the Public Sector) selvittää, miten automatisoitu julkinen päätöksenteko voidaan toteuttaa heikentämättä hyvää julkishallintoa tai kansalaisten perusoikeuksia ja luottamusta julkisiin laitoksiin. Hankkeessa tehdään myös vertailuja Suomen ja Ruotsin välillä, esimerkiksi sen suhteen millaisia jännitteitä EU:n tuleva tekoälysääntely aiheuttaa kummassakin maassa. Naapurimaat ovat oivia vertailukohteita, sillä vaikka moni asia on ratkaistu samoin tavoin, maiden välillä on tietenkin myös eroja.
Ruotsissa automaattinen päätöksenteko julkishallinnossa mahdollistettiin kaikessa yksinkertaisuudessaan lisäämällä hallintolakiin kirjaus, että päätöksiä voidaan tehdä myös automaattisesti. Suomessa vastaava uudistus oli paljon laajempi ja käsitti useita uusia pykäliä. Nopeasti on käynyt ilmi, että Ruotsin malli oli liiankin yksinkertainen ja on korjauksien tarpeessa. Osana projektia tutkijat toivovat voivansa tarjota selkeitä vastauksia siitä, miten hyvin Suomen uusi laki on käytännössä onnistuttu jalkauttamaan viranomaiskäyttöön.
Kun opiskelija tarvitsee apua opintotuen hakemisessa, hän ei enää suuntaa Kelan lähimpään toimipisteeseen, vaan Kelan nettisivuille. Julkishallintomme on digitalisoitunut, mikä käytännössä tarkoittaa sitä, että ihmiset eivät asioidessa enää kohtaa virkamiestä vaan teknisen käyttöliittymän.
Käyttöliittymistä on tullut keskeinen osa arkeamme ja käytännössä välttämättömyys. Käyttöliittymä on tietojärjestelmän käyttäjälle näkyvä osa: se voi olla chattibotti, online-portaali tai mikä tahansa tietotekninen ratkaisu, jolla kansalainen asioi julkishallinon kanssa.
Koska käyttöliittymät ovat inhimillisen suunnittelun tuotetta, ne eivät voi olla neutraaleja. Onnistuneet suunnitteluratkaisut antavat käyttäjälle tietoa hänen oikeuksistaan ja velvollisuuksistaan, ja tarjoavat toimivan väylän, jonka avulla kansalainen voi viedä asiansa viranomaisen ratkaistavaksi. Heikommat tekniset ratkaisut voivat olla lain ja hyvän hallinnon vastaisia.
– Mielestämme käyttöliittymistä ja niiden suunnittelusta pitäisi puhua myös oikeudellisina ilmiöinä, koska ne vaikuttavat suoraan siihen, miten oikeuksia käytetään. Meitä kiinnostaa, mitä olettamia käyttäjistä, sekä kansalaisista että viranomaisista, käyttöliittymiin sisällytetään ja millaiseen toimintaan ne pakottavat, jotta ihminen pääsee yhteyteen viranomaiseen, Riikka Koulu kertoo tutkimuksen lähtökohdista.
Koulu johtaa Suomen Akatemian rahoittamaa DARE-tutkimusprojektia (Digital Administration Redesigned for Everyone), joka tarkastelee teknologisen suunnittelun ja oikeuden vuorovaikutusta. Hanke hyödyntää useita menetelmiä: oikeustiedettä, yhteiskuntatieteitä ja tietojenkäsittelytiedettä.
Tutkimushankkeessa on muun muassa tarkoitus selvittää, missä määrin viranomaisten tekniset käyttöliittymät oikeasti noudattavat lakia. Hankkeessa yritetään myös luoda lähtökohtia uuteen tutkimussuuntaukseen: oikeudelliseen käyttöliittymätutkimukseen.