Tekoälyä tutkivan Palisade-yrityksen tekemässä tutkimuksessa oli mukana kuusi eri tekoälymallia, joista ainakin kaksi mallia yrittivät sabotoida sammumistaan. Lisäksi tekoälymallit yrittivät myös valehdella ja kiristää, jotta ne eivät vain sammuisi, uutisoi Ilta-Sanomat.
Palisaden jatkavan tutkimuksen mukaan selkeämpien ohjeiden antaminen auttoi malleja kieltäytymään sammumisesta.
Samankaltainen löydös tehtiin myös tekoäly-yritys Anthropicinin viime kesänä tehdystä tutkimuksesta, kertoo IS.
Tekoälytutkijoiden aikaisempien, vuosikymmeniä sitten tehtyjen ennustusten mukaan osattiinkin jo arvioida, että tekoälyjen viisastuessa, niiden kyky oppia sammuttamaan itsensä paranee.
Toisessa teoriassa mallit ovat jopa oppineet sen, että selviytymisen katsotaan olevan hyödyllistä, kun halutaan saavuttaa päämääriä.
Palisaden mukaan tekoälymallien käyttäytymisominaisuuksiin pitää kiinnittää entistä tarkempaa huomiota, jotta voidaan tunnistaa tulevaisuuden tekoälyjen turvallisuus ja hallittavuus.
Kommentoi