Läpinäkyvyyden puolesta puhutaan kaikkialla, eikä sen kaikkivoipaisuuden kyseenalaistaminen ole helppoa. Ilmiö on helposti havaittavissa, kun tarkastelemme esimerkiksi tuoretta lainsäädäntöä, kansainvälisten järjestöjen eettisiä julistuksia tai yritysten internetsivuja. Läpinäkyvyyden suosio ei sinänsä yllätä, sillä se vaikuttaa mitä puolueettomimmalta periaatteelta ja sen kannattaminen on muodikasta.
Läpinäkyvyys kelpaa perustelemaan niin lainsäädäntöä, yrityskulttuuria kuin tuotantoketjuakin. Eri toimijat vetoavat siihen etenkin silloin, kun kyseessä on epätasa-arvoinen valtasuhde, jonka olemassaolo tai toiminta pitää perustella suhteen heikommalle osapuolelle. Kyseessä voi olla vaikka hallinnollinen päätöksenteko tai teknologiayrityksen toiminta.
Mitä mustasta laatikosta löytyy?
Läpinäkyvyys hahmottuu hyvänä asiana, joka antaa jopa vastuuta vallankäytön kohteelle. Läpinäkyvyys on näkemistä painottava metafora. Jos näen, että valtaa käytetään väärin, voin pyrkiä siihen, että vallankäyttäjä vaihdetaan.
Lupauksen juuret ovat valistusajan filosofiassa ja demokraattisen yhteiskunnan synnyssä. Nyt läpinäkyvyys on osin irtaantunut juuristaan: sillä ei tavoitella vallankäyttäjän vaihtamista. Miksi läpinäkyvyys on tärkeä juuri digitalisoituvan yhteiskunnan (oikeus)periaatteena?
Teknologinen kehitys ja datan määrän räjähdysmäinen kasvu ovat luoneet mahdollisuuksia, joista emme joitakin vuosikymmeniä sitten osanneet edes uneksia. Asioimme chatbotien kanssa, lainahakemuksemme käsittelee algoritmi ja kännykkä aukeaa sormenjäljellä.
Teknologiajätit loihtivat meille sosiaaliseen mediaan yksilöllisesti räätälöityjä maailmoja, jotka kuvastavat meitä peilin tavoin. Myös valtiot, kuten Suomi, digitalisoivat julkishallintoa.
Läpinäkyvyyttä on perinteisesti pidetty asiana, joka liittyy hallinnon julkisuuteen ja tiedonsaantiin. Perustuslakiin kirjatun julkisuusperiaatteen lähtökohta on, että kansalaisilla on oikeus saada tietoa julkisen vallan toiminnasta.
Myös digitalisoituvassa yhteiskunnassa julkisuudella ja tietoon pääsyllä on paikkansa, esimerkiksi silloin, kun vaaditaan ”mustan laatikon” avaamista. Mustalla laatikolla tarkoitetaan tapaa, jolla sisääntulodata kääntyy tietojärjestelmässä lopputuotteeksi. Se voi olla automaattinen päätös lainasta, sosiaalietuudesta tai verotuksesta. Lopputuote voi olla myös suositus tv-sarjasta tai soittolistasta.
Kun mustan laatikon avaamista vaaditaan, vaaditaan algoritmin paljastamista.
Tiedon on oltava ymmärrettävää
Digitalisaation sääntelyhaasteet ovat osoittaneet, että emme usein ymmärrä niitä lainalaisuuksia, joihin ihmiskontrollista irtaantuva päätöksenteko perustuu. Automaattinen päätöksenteko on houkuttelevaa niin yksityiselle kuin julkiselle sektorille, sillä se on ainakin näennäisen täsmällistä ja huokeaa. Se, miten valtaa – niin julkista kuin yksityistä – käytetään digitaalisessa muodossa, on meille usein hämärän peitossa.
Emme tiedä, onko mustassa laatikossa oleva algoritmi syrjivä tai data vinoutunutta. Rekrytointialgoritmi saattaa suosia hakemuksia, joissa on miehen nimi, jos miehet ovat menneisyydessä olleet menestyksekkäämpiä työpaikan saamisessa. Lainaan voi saada paremmat ehdot, jos asuu kaupungissa, puhuu ruotsia ja on nainen. Algoritmi on päätellyt, että nämä seikat ennustavat parempaa takaisinmaksun todennäköisyyttä.
Taustalla ei välttämättä ole syrjivää tarkoitusta, vaan päätöksenteko heijastaa ja uusintaa yhteiskunnan valtarakenteita. Tilastolliseen päättelyyn perustuvat keskimääräisyydet eivät myöskään kerro yksilöstä mitään. Miksi en saanut lainaa, vaikka täytin ehdot? Algoritmin logiikka ei valkene päätöksen kohteelle. Se muodostaa mustan laatikon.
Aina mustan laatikon avaaminen ei auta. Ongelma on, että vaikka tietoa olisi saatavillakin, sen ymmärtäminen on vaikeaa. Harva asiantuntijakaan ymmärtää tekoälyalgoritmin toimintaa, saati sitten maallikko. Jotkut tekoälysovellukset eivät aukea ihmisymmärrykselle lainkaan.
Vähän vastaava olisi tilanne, jossa ihmistä pyydettäisiin avaamaan koko päätöksentekoprosessinsa sen sijaan, että hän kertoisi päätökselleen perustelut. Päätöksentekomme on usein monikerroksista ja sekavaa, eikä sitä aina voi tarkasti perustella.
Digitalisoituvan yhteiskunnan periaatteena läpinäkyvyys onkin avartunut alkuperäisestä ”tietoon pääsy” -ajattelusta. Se on alkanut merkitä yhä enemmän sitä, että esimerkiksi yrityksellä tai julkishallinnolla on velvollisuus aktiivisesti tuottaa tietoa. Sen tulee pitää huoli siitä, että vallankäytön kohde ymmärtää, mistä on kyse.
Painopiste on siirtynyt tietoon pääsystä tiedon laatuun ja reaktiivisuudesta proaktiivisuuteen. Tällaista sääntelyä on esimerkiksi 2018 voimaan tulleessa EU:n tietosuoja-asetuksessa, jossa säädellään laajasti henkilötietojen käsittelyä koskevia vaatimuksia. Siinä säädetään myös niistä perusedellytyksistä, jotka koskevat automaattista päätöksentekoa.
Läpinäkyvyydellä on asetuksessa monia merkityksiä. Sillä tarkoitetaan automaattista päätöksentekoa koskevaa niin sanottua suojataetta, asianmukaisen kielenkäytön piirrettä, tiedottamisvelvollisuuksia ja kaiken kattavaa oikeusperiaatetta.
Mitä paljastetaan, mitä salataan?
Läpinäkyvyysnormien lisääntyminen lainsäädännössä ja eettisenä periaatteena heijastaa näin epäsuorasti ongelmaa, jota se pyrkii ratkaisemaan. Samalla ymmärrettävyyden vaatimuksen (explainability, understandability) ilmaantuminen sääntelyyn viittaa siihen, ettei pelkkä tiedon saanti riitä. Tiedon on oltava merkityksellistä.
Kehitys ei ole ongelmaton. Jos läpinäkyvyys hahmotetaan selitettävyytenä tai ymmärrettävyytenä, läpinäkyvyys ei takaisikaan enää pääsyä ensikäden tietoon. Selitetystä tiedosta tulee toisen käden tietoa, jossa selittäjällä voi olla muitakin pyrkimyksiä kuin puolueeton tiedonvälitys.
Jos siis läpinäkyvyydestä tulee selittämisen synonyymi, se väistämättä menettää jotakin lupauksestaan: ”älä usko, mitä sinulle selitetään, katso itse” muuttuu vastakohdakseen: ”älä usko, mitä näet, anna kun selitän”.
Toisin sanoen näyttämisen ideologiasta tulee kertomisen ideologiaa. Tämä on omiaan eriyttämään sitä, mitä todella tapahtuu, ja sitä, miten se meille ilmenee.
Esitän kirjassani The Transparency Paradox (Oxford University Press 2022), että läpinäkyvyyden periaate voi pettää odotukset. Sen sijaan että se paljastaisi paljaan totuuden, sen avulla esimerkiksi niin yritykset, julkishallinto kuin yksittäiset ihmisetkin voivat luoda vaikutelmia totuudesta omaksi edukseen.
Väitän, että vastoin yleistä käsitystä läpinäkyvyys on usein esityksellistä. Sen sijaan että paljastettaisiin miten asiat ovat, läpinäkyvyyden käsitettä käyttämällä voidaan säädellä mitä halutaan paljastaa ja mitä salata. Kun jotakin paljastetaan läpinäkyvyyden nimissä, tullaan samalla hallinneeksi sitä vaikutelmaa, joka läpinäkyvyydellä luodaan.
Läpinäkyvyys ei vain tee näkyväksi vallankäyttöä, vaan on itsessäänkin vallankäytön väline.
Digiaika kysyy kriittistä ajattelua
EU on julistanut kuluvan vuosikymmenen digitaaliseksi vuosikymmeneksi. Tätä varten EU valmistelee runsaasti uutta lainsäädäntöä.
Läpinäkyvyys on keskeinen periaate esimerkiksi tulevassa tekoälyasetuksessa ja jo voimaan tullessa digipalveluasetuksessa. Onpa komissio perustanut jopa erityisen algoritmisen läpinäkyvyyden keskuksenkin (European Centre for Algorithmic Transparency, ECAT).
Osa EU-säädöksistä on suoraan velvoittavaa, osa edellyttää kansallista toimeenpanoa. Niinpä se, millaisille periaatteille digitaalisen yhteiskunnan ja digitaalisten markkinoiden sääntely rakennetaan, muokkaa käsitystämme siitä, miten tietoja ja valta punoutuvat yhteen digitaalisessa ympäristössä.
Jos ihmisten digitaaliset todellisuudet eriytyvät toisistaan liikaa, ei ymmärretä, miten tämä tapahtuu ja miksi näin on. Tuloksena on, ettei yhteisymmärrykseen päästä edes tosiasioista. Demokratia on vaarassa. On epävarmaa, auttaako läpinäkyvyys lähentämään näitä yksilöllisiä todellisuuksia toisiinsa.
Algoritmit toimivat usein huomaamattomasti. Niihin liittyviä riskejä ei ole helppo havaita silloinkaan, kun ne mainitaan läpinäkyviksi. Jos kuitenkin herää epäilys laittomuuksista, on syytä ottaa yhteys palveluntarjoajaan tai viime kädessä viranomaisiin. Esimerkiksi tietosuojavaltuutettu voi auttaa selvittämään, onko lakia rikottu.
Läpinäkyvyys on yksi niistä periaatteista, joiden avulla tietämättömyyden ongelmaa pyritään ratkaisemaan. Siksi siihen on syytä suhtautua kriittisesti.
Teksti on julkaistu ensimmäisen kerran Mustread Akatemiassa 13. huhtikuuta 2023.