Uusi korjausopas auttaa laittamaan digitaalisen yhteiskunnan kuntoon

esittelee kuusi tutkimustapausta ja kaksi toimintamallia, joiden avulla tunnistetaan murtumia algoritmisissa järjestelmissä ja kehitetään keinoja niiden korjaamiseen. Esimerkiksi tapaus Apotissa nousee esiin tietojärjestelmän aiheuttama murtuma lääkärin työhön, kun näkymä potilaan tilanteeseen heikentyy. Ratkaisuksi esitetään avointa vuoropuhelua tietojärjestelmien ongelmista. Lääkärien kritiikkiä ei tulisi leimata muutosvastarinnaksi ennen kuin ymmärtää mistä tyytymättömyys kumpuaa, oppaassa todetaan.

Algoritmiset järjestelmät voivat parhaimmillaan yhdistää ihmisten ja koneiden vahvuuksia sekä edistää tehokkuutta, palveluiden laatua ja yhdenvertaisuutta. Kyse ei kuitenkaan ole vain teknologiasta, vaan laajemmasta vuorovaikutuksesta ihmisten, lainsäädännön ja päätöksenteon välillä, mikä tekee näistä järjestelmistä alttiita murtumille.

– Murtumat tulevat näkyviin ei-toivottuina kehityskulkuina ja epäonnistumisina aina syrjivistä algoritmeista valheellista informaatiota levittäviin suosittelujärjestelmiin ja lopahtaneisiin tekoälyhankkeisiin. Teknologiahankkeiden liialliset lupaukset ovat myös yhdenlainen murtuma, sanoo hankkeen johtaja Helsingin yliopistosta.

Murtumilla tarkoitetaan tässä tutkimuksessa haurautta, toimimattomuutta tai jännitteitä, joissa teknologioiden moniulotteiset vaikutukset yhteiskuntaan ja ihmisten toimintaan tulevat esiin.

Korjaustyöllä kohti harkitumpia algoritmisia järjestelmiä

Jos teknologioita kehitetään irrallaan laajemmasta toimintaympäristöstä, niiden avulla ei saavuteta tavoiteltavia yhteiskunnallisia hyötyjä, vaan ne luovat uudenlaisia riskejä ja haavoittuvuuksia. 

– Murtumien tunnistamisen ja korjaustyön avulla voimme kuitenkin rakentaa harkitumpia algoritmisia järjestelmiä ja sitä kautta parempaa digitaalista yhteiskuntaa, Ruckenstein toteaa. 

Oppaasta hyötyä myös yhdenvertaisuuden ja avoimuuden kytkemisessä teknologiaan

Digitaalisen yhteiskunnan korjausopas kokoaa yhteen REPAIR-hankkeen havaintoja algoritmisten systeemien murtumista ja korjauksista sekä muodostaa tapauksista korjausoppeja järjestelmien kehittäjille, tilaajille sekä poliittisille päättäjille.

Opasta voi käyttää sen pohtimiseen, miten yhdenvertaisuuden, avoimuuden tai luottamuksen kysymykset kytkeytyvät teknologian kehitykseen. 

– Korjausopit korostavat, että vaikka murtuma on ongelma, se voi samaan aikaan olla myös tilaisuus oppia ja kehittyä, Ruckenstein jatkaa. 

Oppaanjärjestetään 8. toukokuuta kello 15-17 Sofia Helsingin Lyhtysalissa (Sofiankatu 4C).

Lisätietoja:
Minna Ruckenstein
Konsortion johtaja
Professori, uudet teknologiat ja yhteiskunta, Helsingin yliopiston Kuluttajatutkimuskeskus

Strategisen tutkimuksen neuvoston rahoittamassa  tutkitaan, mitä teknologiaan liittyvät murtumat ovat, mitä niistä voi oppia, ja miten algoritmisia järjestelmiä voisi korjata ja uudistaa tavalla, joka ottaa lähtökohdaksi hyvinvointiyhteiskunnan keskeiset arvot. Murtumat toimivat REPAIR-hankkeessa lähtökohtina algoritmisten järjestelmien kehitystyöhön.