Artikkeli on yli 2 vuotta vanha

EU:lta ensi kertaa lakiesitys siitä, mihin tekoälyä saa käyttää – roskapostifiltterit ok, massavalvonta kasvojentunnistuksen avulla ei

Voiko tekoäly olla enemmän haitaksi kuin hyödyksi? Tähän uhkakuvaan EU nyt reagoi.

Margrethe Vestager.
Digiasioista komissiossa vastaava varapuheenjohtaja Margrethe Vestager Brysselissä tänään 21. huhtikuuta. Kuva: Olivier Hoslet / EPA
Janne Toivonen
Avaa Yle-sovelluksessa

EU esittää tarkkoja sääntöjä siihen, mihin tekoälyä saisi käyttää.

Komissio antoi lainsäädäntöesityksensä asiasta keskiviikkona iltapäivällä Brysselissä. Siinä esitetään tiukkoja rajoja tekoälyn käytölle tapauksissa, jossa sitä voidaan käyttää ihmisiä vastaan.

Tällaisiksi "korkean riskin" käyttötarkoituksiksi komissio listaa ennen kaikkea ihmisten massavalvonnan, mutta myös sen, että tekoäly päättäisi ilman ihmisapua kuka saa vaikkapa lainaa pankista, työpaikan tai turvapaikan.

Tekoälyä tulee komission mukaan käyttää "luotettavasti ja ihmiskeskeisesti".

– Tekoälyä voidaan käyttää terveyden edistämiseen ja ihmishenkien pelastamiseen, ja parhaillaankin Notre Damen kirkon jälleenrakentamisessa käytetään apuna tekoälyä, digiasioista komissiossa vastaava varapuheenjohtaja Margrethe Vestager sanoi.

– Mutta meidän pitää luoda luottamusta tekoälyyn. Esimerkiksi massavalvonnalle ei ole sijaa eurooppalaisessa yhteiskunnassa.

Lakiesitys vastaa uhkakuviin

Kyseessä on ensimmäinen kerta, kun EU yrittää rakentaa lainsäädäntöä tekoälyn suitsimiseksi.

Tekoälyllä tarkoitetaan suuriin tietomääriin pohjautuvaa itsenäistä tietoteknistä päätöksentekoa.

Yksinkertaisimmillaan kyse on vaikka pankin chat-robotista, joka osaa – tai ei osaa – vastata asiakkaan kirjoittamiin kysymyksiin. Monimutkaisemmin kyse on vaikka liikenteen tai energiantuotannon ohjailusta, tai itsenäisesti toimivista asejärjestelmistä. Myös se, että järjestelmä oppii saamastaan tiedosta, luetaan tekoälyyn.

Robotti maalaa kasvokuvaa messuvieraasta.
Kiina on yksi tekoälyä vauhdilla kehittäneistä maista. Kuvassa robotti piirtää kuvaa messuvieraista Hangzhoun tekoälykonferenssissa viime vuonna. Kuva: Getty Images

Esitys vastaa uhkakuviin, joita tekoälyyn on liitetty jo vuosikymmeniä.

Syrjäyttääkö tekoäly ihmiset? Aletaanko meitä jakaa luokkiin Kiinan tunnetuksi tekemillä pisteytysjärjestelmillä, tai hallitsevatko konflikteja pian itsenäisiä tappopäätöksiä tekevät robotit?

Tällainen käsistä karkaaminen ei ole pelkkää fantasiaa. Siitä ovat viime vuosina varoitelleet muun muassa Teslan perustaja Elon Musk ja edesmennyt fyysikko Stephen Hawking. Tosin esimerkiksi Applen perustaja Steve Wozniak on perunut aiempia varoittelujaan, ja rauhoitteluun ovat yhtyneet useat tekoälytutkijat.

Komissio: Valtaosa jäisi vapaaseen käyttöön

Komissio havainnollisti keskiviikkona esitystään niin sanotulla pyramidimallilla.

Pyramidin pohja eli valtaosa tekoälyn käyttökohteista jäisi vapaaseen käyttöön. Tähän kuuluisivat esimerkiksi roskapostifiltterit tai tehtaiden energiatehokkuutta parantavat järjestelmät.

Seuraavassa kategoriassa olisivat esimerkiksi asiakaspalvelun chat-robotit. Niihin EU haluaa lisää läpinäkyvyyttä.

– On oltava kristallinkirkasta, milloin ihminen on tekemisissä koneen kanssa, Vestager sanoi.

Lähellä pyramidin yläpäätä eli tarkan sääntelyn kohteena olisi teknologia, joka vaikuttaa suoraan ihmishenkiin. Tällaisia voisivat olla vaikka kirurgiset leikkausrobotit tai ajoneuvojen ohjausta hoitava tekoäly.

Pyramidin huipulla olisivat muutamat kielletyiksi ehdotetut asiat, kuten kasvojentunnistuksen käyttäminen massavalvontaan tai esimerkiksi äänestäjien manipulointi vaalien alla. Massavalvontaan esitetään kuitenkin muutamia poikkeuksia – komissio mainitsee esimerkiksi kadonneiden lasten etsinnän tai terroriteon estämisen.

Kritiikkiä: Miksi EU rajoittaa keinoja eikä asioita?

Toimivan lainsäädännön luominen on vaikeaa. Sääntelyn tulisi toimia niin, ettei se haittaa tekoälyn hyödyllistä kehitystyötä. Lisäksi tiukkaan sääntelyyn esitettyjä poikkeuksia on hankala rajata.

Kritiikkiä on kuulunut muun muassa siitä, että jos massavalvonta on EU:n mielestä ongelma, miksi pitää kieltää tekoälyn käyttö eikä koko massavalvontaa? Toisaalta yritysmaailma pelkää, että jos sääntely jää epäselväksi, investoinnit voivat tyrehtyä.

Komission esitys on pohjaesitys, jota etenee seuraavaksi parlamentin ja neuvoston käsittelyyn. Aikataulu on auki, mutta kompromissiin pääseminen voi kestää vuosia. Parlamentti otti kantaa tekoälysääntelyn tarpeen puolesta jo viime vuonna.

Komissio ehdottaa myös uutta EU:n tekoälykomiteaa, jossa olisi edustajia kaikista jäsenmaista. Sen tehtävänä olisi muun muassa tarkkailla lain toimivuutta.

Lisää aiheesta:

Tekoäly nuuskii asiakaspalautetta ja kertoo siitä johtajille – paljasti sähköyhtiölle, että asiakkaat eivät ymmärrä laskujaan

Suosittelemme