Blogi • 21.06.2022

Eettinen päätöksenteko tekoälyn ja datan käytössä

Eettinen päätöksenteko tekoälyn ja datan käytössä

Mihin datan käytön ja tekoälyn etiikka pohjautuu? Kenellä on valta päättää, millaiseen etiikkaan teknologian kehitys pohjautuu? Miten voidaan varmistaa, että digitalisaatio kohtelee kaikkia tasavertaisesti?

Recoding-podcastissa on vieraana kokenut julkisen sektorin kehittäjä Sanni Pöntinen. Jakson löydät SoundCloudista, Spotifysta sekä YouTubesta.

Julkishallinnon kehittäjä Sanni Pöntisen tie eettisten kysymysten ja tekoälyn pariin on poikkeuksellinen. Sanni tuli 2000-luvun alussa nuoreksi tuottajaksi Tampereen museopalveluiden yksikköön, jossa tuotettiin kulttuuripalveluita lapsille ja nuorille. Jotta ohjelma saisi rahoitusta opetus- ja kulttuuriministeriöltä, se tuli erityisesti suunnata tukea tarvitseville lapsille ja nuorille. Tätä kautta Sanni päätyi pohtimaan millaisilla keinoilla lapselle, jolla on toimintakyvyn rajoitteita, pystytään tarjoamaan samanlainen kokemus kuin muille. Sanni kertoo, että vaikka julkista sektoria usein soimataan siitä, että se uskoo tietävänsä asiat toisten puolesta, he halusivat erityisesti herkistyä sille, miten erityistarpeita omaava lapsi kokee asiat. He kiersivät erityiskouluja, haastattelivat ihmisiä ja opettelivat ymmärtämään.

Tätä kautta erityislasten ja myöhemmin myös muiden ihmisryhmien palveluiden kehittämisen eettisistä kysymyksistä tuli Sannin työn arkipäivää. Samoin hänelle tuli tutuksi ihmis- ja käyttäjäkeskeinen suunnittelu. Sannin mukaan julkisessa hallinnossa puhutaankin nyt paljon ihmiskeskeisyydestä, jolla pyritään pääsemään eroon hallinto- tuottavuus- tai lakikeskeisyyden paradigmasta. Tämän sijasta tulisi lähteä liikkeelle ihmisten ymmärtämisestä. Samalla myös hallinto ja prosessit muuttuvat.

Myöhemmin myös tekoälyyn liittyvä kehittyminen tuli osaksi Sannin työnkuvaa. Vuosina 2018-2019 Sanni oli mukana projektipäällikkönä Tampere 2020-luvulla projektissa, jossa pohdittiin tulevaisuuden kuntaa, Tamperetta, sote-uudistuksen jälkeen. Tässä projektissa Sanni tutustui AuroraAI-ohjelmaan, jossa edistyneen data-analytiikan avulla selvitettiin opiskelijoiden hyvinvointiin liittyviä asioita, sekä Tampereen kaupungin veto- ja pitovoimaa. Tässä hankkeessa pinnalle nousivat myös datan käyttöön liittyvät eettiset kysymykset.

Sanni pohtii, että jos mietitään mitä on eettinen datan käyttö, ihan ensimmäiseksi pitää ymmärtää mitä etiikka on. Pitää olla herkkänä hyvän ja pahan, oikeudenmukaisen ja epäoikeudenmukaisuuden kysymyksille ja myös ymmärtää millä aikakaudella ja missä kulttuurissa näitä pohditaan. On tärkeää olla tietoinen taustalla vaikuttavista arvoista ja asenteista.

Samalla tulee olla tietoinen myös itse datasta, koska usein se sisältää vääristymiä. Usein data otetaan sellaisenaan, eikä huomata, että siihen liittyy monenlaisia taustamotiiveja, oletuksia ja erilaisia kulttuurisia kehyksiä.

Eettisen harkinnan tueksi on kehitetty myös lainsäädäntöä, kuten GDPR, joka teki epäeettisestä datan käytöstä rangaistavaa. Suomessa on kuitenkin jo ennen tätä tehty monenlaisia suosituksia ja myös EU on julkaissut aiheesta julkilausumia, raportteja ja tekoälyyn liittyviä strategioita. Neuvoja ja ohjeita siis löytyy. Yleisesti suunnittelua ohjaavia arvoja tulisi olla esimerkiksi tasa-arvoisuus, ihmisen arvokkuus, autonomia, vastuu, oikeudenmukaisuus, solidaarisuus, demokratia, oikeusvaltio ja yksityisyydensuoja. Eli todella paljon aineksia kyllä löytyy, kun halutaan peilata, onko kehittäminen eettistä.

Joskus saattaa kuitenkin käydä niin, että kun ollaan digitalisoimassa jotakin aikaisemmin ihmistyönä toteutettua prosessia, niin vasta tässä yhteydessä nousee esiin, ettei näitä edellä kuvattuja periaatteita ole aikaisemminkaan noudatettu. Päätöksenteko ei ole ollut yhdenvertaista tai läpinäkyvää. Sannin mielestä voikin toisinaan olla, että vasta digitalisointi nostaa esiin niitä kohtia, joissa on aiemmin tehty subjektiiviseen arvioon perustuvia ratkaisuja. Parhaimmillaan tekoäly voi poistaa tämän tapaisia ongelmia, koska se on oikeasti tasalaatuista, eikä sillä ole huonoja päiviä. Toisaalta se kuitenkin poistaa myös inhimillisen harkinnan, joka jossain kohdassa saattaa auttaa tekemään inhimillisiä, hyviä päätöksiä.

Sannin mielestä tekoälyn kehittämisessä tulee ymmärtää minkälaisessa maailmassa me haluamme elää. Algoritmin tulisi palvella tätä ideaa maailmasta, esimerkiksi demokraattista oikeusvaltiota. Sanni näkee nykypäivän ongelmaksi sen, että suurilla teknologiayhtiöillä on valtavasti valtaa valtioiden sisällä. Näiden yhtiöiden eettisillä periaatteilla, jotka eivät ole yhteisesti sovittuja, eivätkä läpinäkyviä, luodaan tekoälyn algoritmeja. Sannin mielestä voi kyseenalaistaa sitä onko oikein, että meillä on tämän kaltaisia pieniä diktatuureja oikeusvaltion sisällä. Hän pitää tätä merkittävänä eettisenä ongelmana, joka kasvaa ja vahvistuu, vaikka EU kuinka yrittäisi laittaa kapuloita rattaisiin.

Toinen kiinnostava asia on se missä ja kenen toimesta kehittäminen tapahtuu. Usein julkisella sektorilla on hänen mielestään liikaakin sellainen ajatus, että ”tekki hoitaa”. Ikään kuin viranhaltijan paikka ei olisi siellä missä kehittäminen tapahtuu. Sannin mielestä substanssin asiantuntijan tehtävän tulisi nimenomaan olla siellä missä synnytetään se ketju, missä päätös syntyy, tekoälyn kehittämisen ytimessä.

Jos tulevaisuudessa algoritmit korvaavat ihmiset päätöksenteossa, mikä sitten on ihmisten rooli? Sannin mielestä kysymys on vinha, siihen sisältyy eräänlainen virkamiesparadoksi, koska usein edelleen yhteisesti jaettu ideaali on jonkinlainen kasvoton virkahenkilö, joka on tasapuolinen ja lahjomaton. Mutta nyt kun kirjataan algoritmi tasapuoliseksi ja syrjimättömäksi, niin mihin sitä virkahenkilöä oikeastaan tarvitaan? Jos toisaalta uskalletaan liittää virkahenkilön toimintaan muitakin arvoja, kuten yhteisön palveleminen, rakentaminen, yhteisön äänen kuuleminen, ja samalla rooli algoritmien ja säätelyn kehittämisessä suhteessa yhteisön kehittämiseen, niin sillä on jatkuvuutta. Mutta jos virkahenkilö ajatellaan vain päätöksentekokoneena, niin väkisinkin tulee mieleen ajatus, että olisiko tässä sitten se tehostamisen paikka.

Puhutaan paljon mahdollisuuksien tasa-arvosta, mutta miten tämä toteutuu digitaalisissa palveluissa? Sannin mielestä lähtökohta on, että tämä huomioidaan, se on julkisen tehtävä. Käytännön tasolla kuitenkin voi tulla eteen haasteita. Esimerkiksi asiakaspalvelun kehittämisen vakiintunut eetos on nykyisin digitalisointi, mutta samalla yhteiskunnassa on muistisairautta ja ihmisillä monenlaisia rajoitteita käyttää digitaalista palvelua. Pitää ymmärtää, että digitalisointi on evolutiivinen prosessi ja aina pitää olla kyky palvella kaikkia ihmisiä tasapuolisella tavalla. Käytännössä julkisen kehittämisen on ymmärrettävä tarvittaessa vähän jarruttaa ja varmistaa, että kaikki pysyvät mukana. Ja pitää ymmärtää myös, että digitaaliset taidot ovat kansalaistaitoja, joita pitää kehittää ja ylläpitää.

Toinen näkökulma asiaan on, että aika tyypillistä on edelleen, että katsotaan kuntalaista talouslukujen kautta tai ainoastaan 4 vuoden välin tehtävässä hyvinvointikertomuksessa. Eli asiaa katsotaan hyvin kapeasti sektoreittain, eikä kokonaisuutena. Ihmiset ovat moninaisia ja moninaisuuden ja holistisuuden ymmärtäminen on tärkeää, kun mietitään, miten ihmistä datan kautta katsotaan.

Ihmisten moninaisuus on kiinnostava kysymys myös siitä näkökulmasta ketkä palveluita suunnittelevat ja kehittävät. Sanni on päätynyt näiden asioiden pariin varsin poikkeuksellisella taustalla. Kuka tässä siis oikeasti on asiantuntija? Sanni sanoo, että ilman alan koulutusta hän uskaltaa puhua asiasta ja on sitä mieltä, että tämä keskustelu kuuluu kaikille. Digitalisaation ymmärrys on kaikkien asia ja tietyntyyppinen kansalaistaito. Ja julkisten palveluiden kehittäjänä Sanni törmää näihin asioihin jatkuvasti. Kuka tahansa on omasta näkökulmastaan asiantuntija, koulutustaustasta riippumatta.

Kuitenkin herkästi kysymykset edelleen jätetään teknologian asiantuntijoiden hoidettavaksi. Osasyynä voi olla se, että ihmiset eivät miellä, että heillä olisi asiantuntijuutta. Ajatellaan, että nämä asiat ovat niin vaikeita, että ne kuuluvat vain teknologian asiantuntijoille, eikä ymmärretä, että kyse on ihmisten arkipäivästä ja yhteisesti jaetuista arvoista. Sanni kannustaakin omalla esimerkillään muitakin liittymään keskusteluun, vaikka ei olisikaan korkeakoulututkintoa aiheesta.

Usein keskustelu datan ja tekoälyn ympärillä keskittyy uhkiin ja riskeihin, mutta huomataanko näiden mahdollisuudet? Varmaan sekä että – Sannin mielestä Suomi onkin vähän teknokratiauskoinen maa. Suomessa uskotaan, että teknologinen kehitys ratkaisee ongelmat ja usein näin onkin. Mutta edelleen on maailmassa nälänhätä, sota on käynnissä Ukrainassa, maapallo tuhoutuu, eli ainakaan vielä teknologia ei ole kyennyt vastaamaan näihin kriiseihin. Ja tätä kautta on helppoa lähteä dystooppiseen kuvitelmaan siitä mihin teknologia meidät lopulta vie. Tällöin kuitenkin positiiviset asiat jäävät huomaamatta. Sanni haluaakin uskoa, että kun ihmiset toimivat itselleen tyypillisellä tavalla, ovat uteliaita ja pyrkivät toimimaan aina paremmin, niin teknologia kyllä löytää ratkaisuja.

Sanni tuo myös esiin tietyllä tavalla lohdullisen ajatuksen ihmisistä aikansa uhreina. Asioita on menneisyydessä tehty pieleen ja varmasti tehdään nytkin. Siksi pitää olla nöyriä sen suhteen mitä teemme. Väistämättä olemme aina sokeita jollekin asioille. Kun asioista ajan myötä tullaan tietoiseksi, niin ne tulevat myös valinnan piiriin. Siksi keskustelu ja ongelmien esiin nostaminen on niin tärkeää. Kun asiat on tiedostettu, voidaan jatkossa valita toisin, pyytää anteeksi ja toimia älykkäämmin. Eli vaikka ihmisillä tuntuu aina olevan kova halu olla historian oikealla puolella, niin saatamme epäonnistua siinä surkeasti.

Olen itse käyttänyt Facebookia vuodesta 2007. Ottaessani sen käyttöön, en olisi ikinä voinut kuvitella miten valtava määrä dataa elämästäni sinne tulee kerääntymään. Nyt, kun tietoomme on tullut millä eettisesti arveluttavilla tavoilla dataa on voitu käyttää, niin on syytä pohtia missä tässä on kehittäjän vastuu. Kuinka paljon on kohtuullista odottaa, että pystytään huomioimaan erilaisia skenaarioita sen suhteen, miten dataa voidaan käyttää tulevaisuudessa? Sanni ajattelee tästä, että ihmisten perusluonne on utelias – kokeilemme, erehdymme ja opimme ja se on kehittäjän rooli. Kehittäjän tulee toki pitää eettiset kysymykset mielessään, mutta siitä huolimatta on mahdollista, että tulee kehittäneeksi jonkin uuden ongelman, johon ei ole olemassa sääntelyä.  Mutta sitten se sääntely tulee perässä ja korjaa tilanteen. Puhutaan tieteen itseään korjaavasta roolista ja tässä kyseessä on yhteiskunnan itseään korjaava rooli. Eihän maailma mene eteenpäin, jos me emme uskalla kokeilla ja erehtyä.

Niinpä kenties kehittäjän rooli eettiseltä kannalta onkin erityisesti pitää yllä keskustelua. Ei liikaa rajoittaa itseään, mutta nostaa esiin ongelmia ja tuoda ne lainsäätäjän tietoisuuteen.

 

Kristiina Härkönen

Kristiina työskentelee Goforella kestävän kehityksen johtajana – unelmatyössään. Hän uskoo, että teknologia ja digitalisaatio voivat olla merkittäviä tekijöitä aikamme isompien haasteiden ratkaisuissa. Samaan aikaan ne ovat usein myös haasteiden aiheuttajia. Ihmiset päättävät millä tavoilla ja keiden eduksi teknologiaa käytetään. Yritysten tulee ymmärtää vastuunsa kestävän tulevaisuuden rakentajina. Kristiina on ollut Goforella vuodesta 2003 ja sinä aikana nähnyt yrityksen kasvun viidestä työntekijästä kansainvälisesti toimivaksi, yli tuhannen hengen organisaatioksi. Hän on työskennellyt ohjelmistokehittäjänä, arkkitehtuurin ja projektijohtamisen konsulttina sekä myynnissä ja liiketoimintajohtajana.

Linkedin profileTwitter profile

Piditkö lukemastasi? Jaa se myös muille.