Taas yksi kirja luettu: Matikkatuhoaseet – miten suuraineisto lisää eriarvoisuutta ja uhkaa demokratiaa

Cathy O'Neil kirjoitti vuonna 2016 teoksen Weapons of Math Destruction, ja jossain vaiheessa melko pian tämän jälkeen Kimmo Pietiläinen suomensi sen, arvatenkin melko tuoreeltaan.

Minun hyllyssäni kirja on ollut siitä asti, kun viimeksi tilasin muutamia tuoreehkoja tietokirjallisuuden helmiä ja ruisleipiä, jos näin runollinen metaforaan heittäytyminen sallitaan. Toisin sanoen kirja on odottanut lukemista vähän turhankin kauan.

O'Neil esittelee ja perustelee kirjassaan matikkatuhoaseen käsitteen, ja tekee sen mielestäni varsin uskottavasti.

Mikä on matikkatuhoase?

Erilaiset digitaaliset algoritmit tekevät nykyään yhä enemmän päätöksiä siitä, saammeko työpaikan, lainan tai vakuutuksen, ja millä ehdoilla. Miten työntekijän suoritusta arvioidaan, mihin poliisit painottavat valvontaansa ja niin edelleen.

Nämä algoritmit on tehty yleensä säästämään aikaa ja rahaa verrattuna siihen, että samat päätökset ja arvioinnit tehtäisiin perinteisin keinoin ihmisten tekeminä. Toisena erittäin vahvana etuna näille algoritmipohjaisille päätöksille on nähty se, että ne ovat puolueettomia ja toimivat näin ollen oikeudenmukaisesti samoilla säännöillä kaikille.

Joissain tapauksissa nämä edut pitävätkin paikkansa, mutta yllättävän helposti näistä algoritmipohjaisista päätöksenteko- ja arviointityökaluista muotoutuu epäoikeudenmukaisuuksia korostavia ja eriarvoisuutta lisääviä joustamattomia esteitä. Näitä isännän paikan ottavia algoritmeja O'Neil kutsuu matikkatuhoaseiksi.

Mikä siis tekee algoritmista matikkatuhoaseen?

Algoritmi mittaa aina vain sitä asiaa, mitä se on ohjelmoitu mittaamaan. Monia haluttuja asioita ei voi mitata suoraan, vaan on käytettävä toissijaisia mittareita, ja ne mittarit voivat kuvata hyvin tai huonosti sitä varsinaista asiaa. Tämä ei ole niin vaarallinen ongelma esimerkiksi silloin, kun algoritmi valitsee ruokakaupan mainokselle sopivia kohteita, sillä mainostaja saa pian tietää, saiko hän mainoksen jälkeen uusia asiakkaita. Tai saa todennäköisesti kuulla, jos kilpaileva mainosalgoritmi toimii paremmin.

Kuitenkin monissa tapauksissa algoritmin tekemän päätöksen onnistuneisuuden arviointiin ei ole mitään keinoa. Algoritmin päätöksen kohteille ei anneta tietoon, mitä asioita algoritmi ottaa huomioon, eikä välttämättä edes koko algoritmin olemassaoloa. Algoritmin tuloksia käytetään kuin ylhäältä tulleena jumalan sanana, joka todistaa itse itsensä. Algoritmit ovat liikesalaisuuksia, eli niiden kaltoin kohtelemat kansalaiset eivät voi puolustautua, eivätkä edes muuttaa toimintaansa algoritmille suotuisammaksi, koska kaikki perustelut päätöksille ovat piilossa.

Eli perustelujen piilottaminen ja mahdottomuus arvioida algoritmin toimintaa tekevät tällaisista automaattisista päätöksentekovälineistä sellaisia epätasa-arvoa lisääviä giljotiineja, jotka ansaitsevat nimen matikkatuhoase. Varsinkin, jos sama väline laajenee toimimaan hyvin isolla markkinaosuudella, vaikkapa lähes kaikkien työnantajien käyttämänä työhönottotestinä tai lainanantajien riskianalysoijana, on todennäköistä, että se kasvattaa olemassa olevia yhteiskunnan epäoikeudenmukaisuuksia, varsinkin jos sen tuottamat päätökset toimivat itseään toteuttavina ennusteina.

Esimerkki yksi. Yhdysvalloissa on länsimaisittain katsottuna aivan järjetön määrä ihmisiä eri syistä vankiloissa. Maan vankiloissa tehtävä kysely, jolla arvioidaan rikoksentekijän uusimisriskiä (jotta voidaan määrätä se, miten suuren osan vankeusajasta kukin rikoksesta tuomittu todella suorittaa) on eräs esimerkki siitä, miten järkevältä kuulostava tavoite aiheuttaa tuloksen, joka sortaa köyhien alueiden tai eri etnisten ryhmien ihmisiä ilman, että itse yksilön tekemillä valinnoilla olisi mitään tekemistä päätöksen kanssa.

Myös Yhdysvaltain koulujen tulosten parantamiseksi kehitetty opettajien arviointiväline, jonka perusteella myös irtisanotaan opettajia, on kirjassa esimerkkinä matikkatuhoaseesta. Kun opettajien antama lisäarvo oppilaiden odotettavissa olevaan menestykseen punnitaan oppilaiden tekemällä osaamistestillä, ei tilastollista vaihtelua voi sulkea pois.

Itse asiassa, kirjan esittelemä varsin kokenut opettaja sai peräkkäisinä vuosina ensin arvion, että hän kuului heikoimmin suoriutuvaan kymmenykseen, ja sen jälkeen parhaaseen kymmenykseen, ilman että muutti mitenkään opetusmenetelmiään (ja jos tämä opettaja olisi ollut määräaikaisesti palkattu, tuon ensimmäisen vuoden tulos olisi lopettanut tuon työsuhteen varmasti). Ainoa syy oli, että ensimmäisenä vuonna hänen opetettavakseen osui oppilaita, joiden osaamistaso oli painottunut sekä heikoimpiin että huippuihin, jolloin hänen oli vaikeaa parantaa kummankaan ryhmän suoritusta, kun heikot olivat monessa tapauksessa avun ulottumattomissa, ja huiput niin hyviä jo valmiiksi, ettei parannusta voinut juuri tulla. Seuraavana vuonna hänen ryhmissään oli keskitasoisempia oppilaita, ja opetussuoritus arvioitiin huipuksi. Tilastollisesti mittarit olivat sellaisia, että vain hyvin isosta joukosta tuloksia voi löytää luotettavia eroja, ja yksittäisillä opettajilla tulokset vaihtelevat likimain satunnaisesti.

Oli kirjassa toinenkin esimerkki, jossa eräälle toiselle opettajalle annettiin tämän saman tilastomittarin perusteella potkut, mihin ilmeisesti oli syynä se, että tämän opettajan oppilaiden entiset opettajat olivat väärentäneet oppilaiden aiemman vuoden koetulokset pelastaakseen oman nahkansa, ja niitä paranneltuja tuloksia oli näiden oppilaiden enää paha ylittää rehellisin keinoin.

Kirjassa esiteltiin siis ilmiö, joka on mielenkiintoinen ja tärkeä ottaa huomioon. Suosittelen lukemaan. Kirja on viihdyttävä ja myös melko ohut, eli sen takia ihme, että tämä kirja pölyyntyi hyllyssäni lukemista odottaen näinkin kauan.