Framework tekoälyratkaisujen etiikan tarkasteluun

  • Posted on: 19 April 2017
  • By: Juho Vaiste

Tekoälyratkaisujen - koneoppimisen ja algoritmien - eettisyyttä voi tarkastella nelikenttäisen kehyksen valossa.

Ratkaisua suunniteltaessa, implementoitaessa ja kehitettäessä pitää ottaa huomioon ratkaisun läpinäkyvyys ja valvonnan mahdollisuus, ennustettava käyttäytyminen, manipulaatiolta suojautuminen sekä tekoälyn tekemien virheiden vastuunjako.

Läpinäkyvyys ja valvonnan mahdollisuus

Tekoälyn tekemiä ratkaisuja pitää pystyä valvomaan, tarkkailemaan ja tarkastamaan jälkikäteen. Käytettävien perusteiden tulisi olla näkyvillä ja tarkistettavissa.

Ennustettava käyttäytyminen 

Päätösten pitää perustua asioihin ja perusteisiin, mitkä ovat ymmärrettäviä ja loogisia.

Manipulaatiolta suojautuminen

Tekoälyratkaisu pitää olla suojattu manipulaatiolta, ettei sen tekemiin päätöksiin voi ulkopuolinen vaikuttaa joko itseään hyödyntävästi tai jonkin muun osapuolen osalta heikentävästi.

Tekoälyn tekemien virheiden vastuunjako

Tekoälyratkaisun etiikkaa mietittäessä pitää varmistua siitä, että AI:n tekemistä virheistä on olemassa selkeä vastuunjako. Kukaan sen suunnitteluun, toteutukseen tai hallinnoimiseen vaikuttava henkilö ei saa joutua kantamaan epäinhimillistä kuormaa mahdollisista virheistä. Vastuunjako varmistaa myös virheen korjaamisen parhaalla mahdollisella tavalla.

Lähteet:

Boström & Yudkowsky (2011): The Ethics of Artificial Intelligence