Rankingin resepti. Mitä yliopistovertailu tarkoittaa?

Yliopistorankingien sijalukuja vertaillaan todistuksena opinahjojen erinomaisuudesta. Mutta mihin sijoitukset oikeastaan perustuvat?

Aina kun uudet rankinglistat julkaistaan, alkaa yliopistoissa tohina. Meidän yliopisto on maailman niin ja niin monenneksi paras! Onko tullut nousua, onko tullut pudotusta?

Listoja seurataan, niistä uutisoidaan ja niillä on vaikutusta yliopiston arvostukseen, halusimme tai emme. Vähemmän puhutaan siitä, mitä vertailut varsinaisesti mittaavat.

Tunnetuimmat ja vanhimmat yliopistovertailut ovat Shanghain Jiao Tong -yliopiston, Times Higher Education -lehden ja QS-organisaation listat. Näiden keskinäinen vertaaminen ei ole helppoa. Yhteistä on vain se, että tutkimusviittaukset saavat kaikissa mittauksissa 20–30 prosentin painoarvon.

Shanghain lista arvostaa muun muassa menestystä Nobel-palkinnoissa ja matematiikan alan Fieldsin mitaleissa ja painottaa luonnontieteitä sekä lääketiedettä. Times Higher Education ja QS puolestaan nojaavat vahvasti haastatteluaineistoihin, joilla kartoitetaan yliopistojen mainetta. Ne antavat myös pisteitä esimerkiksi kansainvälisyydestä ja seuraavat yliopistojen opettajamääriä suhteessa opiskelijamääriin.

Uudempi ja vähemmän tunnettu on Taiwan-ranking. Se perustuu vain tutkimusmenestykseen ja sopii siksi erityisesti tutkimusyliopistojen vertailuun.

KENELLE JA MIKSI?

Kenelle yliopistovertailut sitten on tarkoitettu? Ensimmäinen globaali rankinglista, Shanghain Jiao Tong -yliopiston kokoama ARWU-vertailu sai alkunsa vuonna 2003. Kiina halusi lähettää opiskelijoitaan ulkomaille ja tarvitsi tietoa siitä, minne kannattaa mennä. Kiinaa kiinnostivat eritoten kovat luonnontieteet ja lääketiede, mikä näkyy myös vertailun tuloksissa: ilman näiden alojen osaamista Shanghain listan kärkisijoille on turha havitella.

Sittemmin rankinglistoista on tullut muidenkin maiden opiskelijoille kiinnostavaa seurattavaa.

— Kansainvälisissä opiskelijatutkimuksissa on havaittu, että yliopistoa valitsevat opiskelijat etsivät ensimmäiseksi tietoa rankinglistoilta. Loppupelissä enemmän kuitenkin merkitsee vertaisryhmiltä saatu tieto, kertoo johdon tieto- ja analytiikkapalvelujen asiantuntija Markku Javanainen Helsingin yliopistosta.

— Rankingeista on hyötyä myös yliopistoille itselleen. On hyvä tietää, missä kohdassa ollaan kansainvälisesti.

Shanghai-ranking eli ARWU

Julkaisija Shanghain Jiao Tong -yliopisto vuodesta 2003.

HY:n sijoitus 56 (2017)

30 % palkinnot
Pisteitä myönnetään Nobel-palkittujen ja Fields-mitalistien opiskelu- ja työskentely-yliopistoille. Helsingin yliopisto hyötyy yhä A. I. Virtasen Nobel-palkinnosta ja Lars Ahlforsin Fields-mitalista. Myös Bengt Holmströmin kanditutkinto tuo pisteitä.  Ahlforsin pisteet tulevat vasta 2017 alkaen HY:lle, aiemmin ne menivät virheellisesti Harvardille.

20 % viittaukset tutkimukseen
Se, miten paljon tutkimukseen viitataan, kertoo sen merkittävyydestä. Viittauksia yliopistojen tutkimuksiin kerätään Clarivate Analyticsin (ent. Thomson Reutersin) Web of Science- ja Elsevierin Scopus-tietokannasta. Shanghain lista käyttää Web of Science -kantaa. Muu kuin englanninkielinen tutkimus on tietokannoissa aliedustettuna. Silti viittaukset ovat HY:n vahvuus kaikissa rankingeissa.

20 % paljon siteeratut tutkijat
Clarivate Analyticsin paljon siteerattujen listalle pääsee paras prosentti kunkin alan tutkijoista. Helsingin yliopistolla oli viimeisimmällä listalla 8 tutkijaa. Siteerattujen listalla tapahtuu jatkuvasti vaihtelua. Jos tutkija vaihtaa yliopistoa, yliopisto menettää pisteet. Helsingin yliopiston paljon siteeratut tutkijat.

20 % Nature- ja Science- julkaisujen määrä
Nature ja Science ovat maailman kuuluisimpia tiedelehtiä ja auktoriteetteja luonnon- ja lääketieteen alalla. 

10 % kaikki edelliset kohdat suhteutettuna akateemisen henkilökunnan määrään
Tarkoituksena on tasoittaa yliopistojen koko­erojen vaikutuksia. Kriteeri vaikuttaa myös niin, että jokaisen opettajan pitäisi tehdä mahdollisimman hyvää tutkimusta.

OPETUS PAITSIOSSA

Vaikka listat kiinnostavat opiskelijoita, mikään ranking ei kerro kunnolla yliopistojen opetuksen tasosta. OECD yritti parisen vuotta sitten laatia mittareita opetuksen laadulle, mutta projekti kuivui kasaan, koska opetusta on niin vaikea mitata.

Javanaisen mukaan kaikkien rankingien pahimmat puutteet ovat juuri opetuksen arvioinnissa. Tutkimusten määrää ja niihin tehtyjä viittauksia pystytään laskemaan objektiivisesti, joten rankingeissa tutkimus painottuu opetuksen kustannuksella.

— Hyvä tutkimus ja opetus kuitenkin korreloivat samaan suuntaan, joten rankingit kertovat jotain myös opetuksen tasosta. Yliopistossa, jossa tutkimus on hyvää, todennäköisesti myös opetus on hyvää. Toisaalta yksittäisen opettajan kohdalla voi käydä niinkin, että hyvin valmisteltu opetus on pois tutkimukseen käytetystä ajasta.

Ahkera opettaja, joka ei ehdi julkaista, on useassa rankingissa pelkkää painolastia, koska tutkimussaavutukset jaetaan akateemisen henkilökunnan nuppiluvulla, mutta niitä ei suhteuteta opiskelijoiden määrään.

Times Higher Education (THE)

Julkaisija kaupallinen Times Higher Education -lehti. Nykymuodossaan ilmestynyt vuodesta 2010.

HY:n sijoitus 90 (2017)

30 % opetus
Sisältää mainekyselyn, jossa eri yliopistojen tutkijoilta kysytään, mitkä ovat heidän alallaan parhaita opetusyliopistoja. Lisäksi suhteutetaan muun muassa tohtorintutkintoja ja yliopiston tuloja akateemisen henkilökunnan määrään.

30 % tutkimus
Sisältää mainekyselyn, jossa eri yliopistojen tutkijoilta kysytään, mitkä ovat heidän alallaan parhaita tutkimusyliopistoja. Lisäksi suhteutetaan julkaisuja ja ulkopuolisen rahoituksen määrää akateemisen henkilökunnan määrään.

30 % viittaukset tutkimukseen
Vuonna 2015 vertailun viittaustietokannaksi vaihdettiin Scopus, mikä vaikutti HY:n sijoitukseen suotuisasti. Scopuksessa humanistiset ja yhteiskuntatieteet näkyvät jonkin verran paremmin kuin Clarivate Analyticsin Web of Sciencessa.

2,5 % tutkimustulot yksityiseltä sektorilta
Yliopiston yksityiseltä sektorilta saamat tutkimustulot suhteessa akateemisen henkilökunnan määrään. Teknisiin tieteisiin, taloustieteeseen ja lääketieteeseen erikoistuneet yliopistot menestyvät tässä paremmin kuin HY:n kaltainen yleisyliopisto.

7,5 % ulkomaisen henkilö­kunnan ja opiskelijoiden määrä
Kansainvälisyydellä tavoitellaan monipuolisuutta, uusia virikkeitä ja vaikutteita. Menestymiseen tässä kriteerissä vaikuttavat kuitenkin paljon yliopiston sijainti ja kyky houkutella ulkomaalaisia opiskelijoita taloudellisilla kannusteilla. HY pärjää vertailun tässä osassa heikosti.

MITTAUSTEN YHTEISMITAT?

Listausten ongelmia ovat yhteismitallisuuden ja luotettavan datan puute. Monenlaisia nykyistä parempia mittareita olisi olemassa, mutta niillä ei saada samanlaatuista tietoa kaikista maista. Esimerkiksi kandi- ja maisteritutkintojen laajuus vaihtelee niin paljon, ettei niiden määrästä ole mittariksi. Opiskelijapalaute taas on ongelmallinen mittari kulttuurierojen ja pohjatietojen erilaisuuden takia.

Rankingeihin liittyy myös tiettyä salamyhkäisyyttä, sillä ne eivät perustu avoimeen dataan eivätkä ole toistettavissa.

— Rankinglaitokset pyrkivät pitämään metodologiansa ja julkaisemansa numeeriset tiedot läpinäkymättöminä. Näin ne yrittävät estää rankinginsa kopioimisen ja myös mahdollisten virheiden paljastumisen, Javanainen kertoo.

Listojen kärjessä komeilevat vuodesta toiseen rahakkaat yhdysvaltalaiset yliopistot, mutta niissä rankingeista ei olla kovin kiinnostuneita. 

— Rankingit kiinnostavat erityisesti keskitasolla, mainettaan kohottamaan pyrkivien yliopistojen joukossa, Javanainen arvioi.

QS-ranking

Erosi vuonna 2010 Times Higher Education -vertailusta, jonka osa se aiemmin oli. Julkaisija kaupallinen Quacquarelli Symonds -organisaatio.

HY:n sijoitus 102 (2017)

50 % maine
Mainekyselyissä työnantajilta ja muiden yliopistojen tutkijoilta kysellään käsityksiä yliopistoista. Jotkut yliopistot ovat pyrkineet manipuloimaan haastatteluja pyytämällä tutkijoita kehumaan niitä. Maine myös kasaantuu tunnetuimmille yliopistoille, joiden takaa on vaikea murtautua kärkeen.

20 % viittaukset
Vertailun viittaustietokanta on Scopus. Vuonna 2015 metodologia ja pisteiden laskutapa muuttuivat HY:lle epäedullisempaan suuntaan.

20 % opiskelija-opettaja-suhdeluku
Vaikka HY:llä on enemmän opiskelijoita kuin amerikkalaisilla huippuyliopistoilla, tässä kriteerissä HY pärjää hyvin.

10 % ulkomaisen henkilö­kunnan ja opiskelijoiden määrä
HY:n heikoin osio tässä vertailussa.

ALOJEN EROT

Rankingorganisaatiot julkaisevat yliopistojen kokonaissijoitusten lisäksi myös tieteenalakohtaisia vertailuja. Ne kertovat yliopistoon tuloa harkitsevalle enemmän kuin kokonaisarvioinnin sijaluku. Alakohtaisista tuloksista ei kuitenkaan puhuta niin paljon kuin yleissijoituksista.

— On helpompi kertoa yksi luku, joka kertoo kokonaisuudesta. Niistä tehdään juttuja, joita klikataan. Silti kannattaa katsoa myös alakohtainen ranking, neuvoo Javanainen.

Tieteenalakohtaisia sijoituksia ei pidä vertailla saman yliopiston sisällä, vaan yliopistojen välillä. Runsaasti tutkituilla aloilla on hankalampi päästä listansa kärkeen kuin vähän tutkituilla aloilla, aivan kuten jalkapallossa on vaikeampaa voittaa maailmanmestaruus kuin jääkiekossa.

Sitä saadaan, mitä mitataan, kuuluu sanonta. Päteekö se myös yliopistorankingeihin?

— Jos mittarissa menestymisestä tulee päämäärä sinänsä, niin se lakkaa olemasta hyvä mittari. Tätä Goodhartin lakia voidaan soveltaa myös rankingeihin. Rankinglistat eivät saa alkaa johtaa yliopistoa, Javanainen sanoo.

Taiwan-ranking

Julkaisija Taiwanin kansallinen yliopisto vuodesta 2007.

HY:n sijoitus 81 (2017)

25 % tutkimusartikkelit
Rankingissa erotellaan artikkeleiden määrä viimeisen 11 vuoden aikana ja artikkelien määrä edeltävänä vuonna.

45 % viittaukset tutkimukseen
Mittauksessa seurataan viittausten määrää 11 viimeisen vuoden aikana, viittausten määrää kahden viime vuoden aikana sekä viittausten keskiarvoa 11 viime vuoden aikana. Myös viittauksia mittaavasta H-indeksistä annetaan pisteitä.

15 % paljon siteeratut artikkelit
Lähteenä on InCites’in The Essential Science Indicators -tietokanta, johon on valittu noin 11 500 keskeistä lehteä eri tieteenaloilta. Siinä poimitaan kunkin vuoden julkaisuista siteeratuin prosentti 11 vuoden ajalta.

15 % vaikutusvaltaisissa lehdissä julkaistut artikkelit
Lehtien vaikutusvaltaisuus on määritelty InCites’in The Journal Citation Reports -työkalun avulla. Se suhteuttaa lehdessä julkaistujen artikkelien saamien siteerausten määrän julkaistujen artikkelien määrään. Vaikutusvaltaisiksi lasketaan ne lehdet, jotka yltävät oman alansa parhaaseen viiteen prosenttiin.

Artikkeli on julkaistu Yliopisto-lehden numerossa Y/08/17.

Arto Mustajoki: Julkaisut, prjoktit, aktiviteetit, palkinnot.

Yliopisto-lehti on kaikille tarkoitettu, monipuolinen tiedelehti Helsingin yliopistosta.
Tilaa ja rakastu tieteeseen.