Tekoäly on tullut jäädäkseen – myös julkishallintoon. Mutta miten varmistetaan, että tekoälyä käytetään vastuullisesti, läpinäkyvästi ja lainmukaisesti? Valtiokonttorin tuore julkaisu ”Tekoälyn hallinta – Esimerkkinä Valtiokonttorin tekoälyn hallintamalli” tarjoaa konkreettisen ja ajankohtaisen katsauksen siihen, miten tekoälyä voidaan hallita osana valtionhallinnon tiedonhallintaa.
Uudet teknologiset kyvykkyydet mahdollistavat toiminnan kehittämisen ja uudelleen suunnittelun. Nopea teknologinen kehitys haastaa normatiivisen ohjauksen, sillä erityisesti julkisessa hallinnossa sitovan säätelyn puuttuminen tarkoittaa käytännössä sitä, että automatisointia mahdollistavaa teknologiaa käytetään vielä vähän. Automaattiseen ratkaisumenettelyyn on olemassa tiedonhallintalautakunnan suositus, jota voidaan pitää pohjana tekoälyn hallintamallille, sillä siinä kuvattu tehtävänjako sopii suoraan tai mukaillen myös tekoälyn hallintamallin vastuiden määrittelyyn.
Miksi tekoälyn hallinta on tärkeää?
Tekoälyn hallinnan keskeinen tehtävä on varmistaa eettinen ja vastuullinen tekoälyn kehittäminen ja käyttö. Tekoälyn käyttöönotto tuo mukanaan mahdollisuuksia, mutta myös riskejä. EU:n tekoälysäädös (AI Act) määrittelee tekoälyjärjestelmien riskiluokat ja asettaa vaatimuksia erityisesti suuririskisille järjestelmille. Julkishallinnossa on tärkeää varmistaa, että tekoälyratkaisut ovat eettisiä, turvallisia ja yhteensopivia lainsäädännön kanssa.
Tekoälyn hallintamallin rakennetta suunniteltaessa kävimme läpi muun muassa European AI Alliance -foorumin suosittelemat kehykset, Gartnerin aineistoja ja tieteellisiä tietokantoja. Erilaisia hallintamalleja tarkasteltaessa nousi esiin kolme keskeistä osakokonaisuutta: operatiivisen ohjauksen malli, politiikat ja kontrollit sekä valvontajärjestelmät.
Valtiokonttorin hallintamalli – käytännön työkaluja
Valtiokonttorin kehittämä tekoälyn hallintamalli on rakennettu kolmen pääelementin varaan:
- Periaatteet ja strategiset tavoitteet – mm. julkisen tiedon käyttö, virkamiesvastuu ja hallintamallin noudattaminen.
- Normatiivinen ohjaus – yhdistää sitovan ja ei-sitovan sääntelyn, kuten EU:n tekoälysäädöksen, kansalliset lait ja suositukset.
- Käyttöönoton ja kehittämisen prosessit – sisältää arviointityökalut, tietosuoja- ja tietoturva-arviot sekä valvontamekanismit.
Normatiivisen ohjauksen tietopohja tarkoittaa sääntelyn, suositusten ja ohjeiden kokonaisuutta, joka ohjaa tekoälyn käyttöä organisaatiossa. Se koostuu:
- Sitovasta sääntelystä (esim. lait, asetukset, päätökset)
- Ei-sitovasta sääntelystä (esim. suositukset, ohjeet, käytännesäännöt)
- Toimeenpanoa tukevista työkaluista (esim. arviointilomakkeet, kehykset)
Tämä tietopohja toimii perustana päätöksenteolle ja vastuiden määrittelylle tekoälyn käytössä.
Käyttötapausten arviointityökalut
Valtionhallinnon tietoturvan vastuuhenkilöiden verkoston (VAHTI) tietosuojan kehittämisen (TIKE) työryhmä on muodostanut työkaluja tekoälyjärjestelmien kartoittamiseen ja käyttötapausten arviointiin. Näiden käyttötapausten arviointityökalujen (VAHTI-lomakkeet 01–07) avulla todennetaan tekoälyjärjestelmän vaatimustenmukaisuus. Valtiokonttori hyödyntää VAHTI-lomakkeita tekoälyn käyttötapausten arvioinnissa. Ohessa lyhyt katsaus lomakkeisiin:
- 01 Organisaatioiden AI-ratkaisujen kartoitus
– Inventoidaan organisaation tekoälyratkaisut, niiden riskitasot ja roolit (esim. käyttöönottaja, tarjoaja). - 02 Käyttötapauksen kuvaus
– Määritellään tekoälyn käyttötarkoitus, toimintatapa ja ihmisen rooli järjestelmässä. - 03 Tekoälyjärjestelmän käyttötapauksen riskitason määritys
– Arvioidaan tekoälyjärjestelmän riskitaso tekoälysäädöksen mukaisesti (esim. rajoitettu, vähäinen, suuri riski). - 04 Käyttöönottajaa koskevat vaatimukset
– Listataan käyttöönottajan vastuut ja toimenpiteet eri riskitasoilla. - 05 FRIA perusoikeusvaikutustenarviointi
– Käytetään vain suurriskisissä järjestelmissä. Valtiokonttori ei toistaiseksi hyödynnä tätä. - 06 Tekoälyn lisäkysymykset DPIAan (DPIA = Data Protection Impact Assessment)
– Tietosuojan vaikutustenarvioinnin täydentäminen tekoälyn erityispiirteillä. - 07 Hankinnan tekoälyvaatimukset ja tsekkilista
– Varmistetaan, että hankittava tekoälyratkaisu täyttää säädösten vaatimukset.
Hallintamalli yhteistyön ja jatkuvan kehittämisen tukena
Tekoälyn hallinta ei pääty käyttöönottoon. Valtiokonttori painottaa yhteistyötä, yhdessä oppimista ja rohkaisee kokeiluihin. Lisäksi korostamme tekoälyn käytön aikaista valvontaa ja tilannekuvien muodostamista. Teknologia-alustojen teknisten kontrollien ja politiikkojen sisällyttäminen hallintamalliin tukee tavoitteiden saavuttamista.
Valtiokonttorin malli toimii esimerkkinä muille julkishallinnon organisaatioille. Se osoittaa, että tekoälyn hallinta ei ole vain tekninen kysymys, vaan vaatii strategista otetta, yhteistyötä ja jatkuvaa kehittämistä.
Lue lisää ja lataa julkaisu:
Tekoälyn hallinta – Esimerkkinä Valtiokonttorin tekoälyn hallintamalli >
