Tekoäly voi tuottaa disinformaatiota ja trollata – tutkijat pureutuvat häirinnän tekniikkaan

Helsingin yliopistossa alkava tutkimus tarkastelee mekanismeja, joilla verkkokeskusteluja ja uutistarjontaa voidaan häiritä tekoälyn keinoin.

Helsingin yliopistossa käynnistyy tänä vuonna laaja tutkimus automatisoidusta trollauksesta ja disinformaation levityksestä.

Akatemiatutkija Antti Ukkosen vetämän tutkimusryhmän hanke on nimeltään ”Automatisoitu trollaus ja valeuutisten generointi tulevaisuuden sosiaalisessa mediassa: Laskennallisia ja empiirisiä tutkimuksia uhkista ja näiden implikaatioista”. Se tarkastelee mekanismeja, joilla verkkokeskusteluja ja uutistarjontaa voidaan häiritä tekoälyn keinoin.

Tutkimus sai 700 000 euron rahoituksen Suomen Akatemian Media ja yhteiskunta -ohjelmasta. Rahoitus alkaa vuoden 2019 alussa ja päättyy vuoden 2022 lopussa.

Valesivustoja automaattisesti

Tutkimuksessa yhdistyvät trollauksen ja disinformaation laadullinen analyysi ja modernit koneoppimismenetelmät.

Helsingin yliopiston tietojenkäsittelytieteen osastolla työskentelevän Ukkosen mukaan automaattinen tekstin ja kuvien tuottaminen erilaisten tekoälymenetelmien avulla on kehittynyt huimasti kymmenen viime vuoden aikana.

– Tulevaisuudessa on mahdollista, että kehittyneempiä versioita näistä teknologioista voitaisiin käyttää esimerkiksi laajamittaiseen trollauksen automatisointiin tai luomaan kokonaisia verkkosivustoja, joissa uutisartikkelit, kuvat ja lukijoiden keskustelut ovat kaikki enemmän tai vähemmän keinotekoisia, Ukkonen kertoo.

Ryhmän tavoite on tutkia laskennallisia menetelmiä, joiden avulla yksilöt ja yhteisöt voivat paremmin varautua tilanteisiin, joissa verkkosisältöjen todenperäisyyden ja eri keskustelijoiden tarkoitusperien selvittäminen on entistä vaikeampaa.

– Tutkimusryhmäämme kuuluvat koneoppimisen asiantuntijoiden lisäksi ihmisen ja koneen vuorovaikutuksen asiantuntija Antti Salovaara ja laskennallisten yhteiskuntatieteiden asiantuntijat Matti Nelimarkka ja Pihla Toivanen. Hankkeeseen on tarkoitus myös palkata vuorovaikutukseen erikoistunut laadullisten tutkimusmenetelmien postdoc-tutkija, Ukkonen kertoo.

Lue lisää aiheesta: Datatiede