(Kuva: x6e38 – 1044, Creative Commons)
Tiedekustantamo Terra Cognita on julkaissut kiintoisan suomennoksen Matikkatuhoaseet ja postannut sitä mainostavan videon Facebookiin: LINKKI
En tunne algoritmeja, mutta jos se on ”yksityiskohtainen kuvaus tai ohje siitä, miten tehtävä tai prosessi suoritetaan” (Wikipedia), niin sitä koskee varmasti Face-linkissä Cathy O’Neilin esilletuoma ongelma: ne sisältävät koodiin piilotettuja asenteita ja mielipiteitä, koska kuvaus tai ohje on aina inhimillinen konstruktio.
Ei ole myöskään itsestäänselvää, että algoritmien laatijat itse tiedostavat tätä, koska mielipiteet voivat siirtyä koodeihin vaikkapa ns. luonnollistuneina asenteina (esim. ”pojat ovat poikia ja tykkäävät peuhata tekniikan kanssa”).
Itse asiassa vastaavan ongelman kanssa voisikin pohtia myös yhteiskuntateoriaa. Usein neutraalina näyttäytyvä teoria pitää vastaavalla tavalla ’koodattuja’ mielipiteitä sisällään. Yhteiskuntatieteilijät ajattelevat paikoin pystyvänsä tulkitsemaan yhteiskunnallisia olosuhteita objektiivisesti. Tässä kohtaa tehdään useimmiten joko oletus historiattomuudesta tai joudutaan kuvittelemaan joku ’neutraali’ aloitustilanne (tasapaino), johon suhteessa vinoumat määritellään poikkeuksiksi. Näin ollen tullaan luoneeksi tulkintakehikko, jossa data filtteröidään ’algoritmin’ läpi, joka implikoi todellisuuskuvaa, jollaista ei inhimillisestä maailmasta välttämättä löydy.
Kaikki eivät pidä tätä ongelmana, mutta entä jos todellisuus onkin perustavalla tavalla epätasapainoinen? Tällöin myös datan tulkinnan tulokset – ainakin hyvin suurella todennäköisyydellä – implikoivat todellisuuskuvaa, joka on harhainen.
Koneellisella algoritmilla (jos tämä on millään tavalla järkevä ilmaus) tietysti ratkaistaan aivan erilaisia ongelmia, mutta kiinnostavaa tässä on se, että elämme aikaa jossa kuvitelma neutraaliudesta saa vahvistusta numeroista ja teknologia-analogioista. Mitä pidemmälle joku ongelmanratkaisu-mekanismi on teknologisoitu, sitä neutraalimpana se näyttäytyy, koska koneella tai numeroillahan ei ole mielipiteitä, vaikka niiden takana olevalla ihmisellä niitä varmasti on.
Joku sanoo tähän luultavasti, että tämä osataan ottaa huomioon, mutta herättää tämä silti hieman epäilyksiä, koska ainakaan itse en ole yhteiskuntateorian suhteen saanut tähän koskaan kovin tyydyttäviä vastauksia, plus että luonnollistuneet asenteet eivät välttämättä ole tiedostettuja asenteita.
En ole lukenut Matikkatuhoaseita, mutta tulin tässä kuitenkin mainostaneeksi sitä. En ota vastuuta kirjan sisällön ja blogaukseni mahdollisista ristiriidoista.
Rötösherranen 