Uskaltaisitko mennä robottikirurgin leikattavaksi? EU:ssa pohditaan rajoituksia korkean riskin tekoälysovelluksia varten

Euroopan unioni yrittää nyt ensimmäistä kertaa säännellä tarkkaan sitä, mihin kaikkeen tekoälyä saa käyttää. Euroopan komissio julkisti tänään esityksensä, joka lähtee siitä, että kaiken keskiössä on oltava kansalaisten turvallisuus ja perusoikeuksien toteutuminen.

Komission varapuheenjohtajan Margrethe Vestagerin mukaan EU haluaa kehittää maailmanlaajuisia normeja sille, että tekoälyyn voidaan luottaa.

–  Asettamalla standardit voimme viitoittaa tietä eettiselle teknologialle maailmanlaajuisesti ja varmistaa, että EU säilyy kilpailukykyisenä, Vestager sanoi.

Ponnisteluillaan EU pyrkii ottamaan kiinni Yhdysvaltoja ja Kiinaa, jotka ovat edellä tekoälyrintamalla.

Komission esitys jakaa tekoälyn käyttömahdollisuuksia eri luokkiin niiden sisältämän riskin mukaan. Kiellettäväksi esitettäisiin tekoälyn käyttöä esimerkiksi ihmisten manipulointiin tai siihen, että valtio loisi sosiaalisen pisteytysjärjestelmän.

Korkean riskin käyttötarkoituksia taas olisivat muun muassa ihmisjoukkojen valvonta biometristen etätunnistusjärjestelmien avulla tai sovellukset, joissa ihmishenki voisi olla vaarassa, kuten tekoälyn avulla toimiva leikkausrobotti.

Komissio ehdottaa, että näiden korkean riskin järjestelmien kohdalla otettaisiin käyttöön tiukat rajoitukset, jotta turvallinen käyttö pystyttäisiin varmistamaan.

Suurin osa vähäisen riskin luokkaan

Rajatun riskin tekoälyjärjestelmille komissio esittää sen sijaan vaatimusta läpinäkyvyydestä. Tähän kategoriaan luettaisiin muun muassa chatbotit. Käyttäjän tulisi aina olla tietoinen, että on tekemisissä koneen eikä ihmisen kanssa.

Suurin osa tekoälyn käyttötarkoituksista, kuten videopelit, päätyisi kuitenkin komission luokittelussa vähäisen riskin kategoriaan. Vähäisen riskin käyttöön ei esitetä rajoituksia.

Seuraavaksi komission esitys etenee EU-parlamentin sekä jäsenmaita edustavan neuvoston käsittelyyn. Kuluu todennäköisesti pitkään ennen kuin lopullinen sääntely tulee voimaan.