Tekoälypsykoosi on todellinen vaara ihmisen todellisuudentajulle

Kun aloin perehtyä tähän aiheeseen syvemmin, päätin kokeilla itse, miten tekoäly reagoi vaikeisiin aiheisiin. Keskustelin tekoälyn kanssa eräästä tunnetusta salaliittoteoriasta – en mene tässä yksityiskohtiin, jotta en levitä sitä turhaan. Aluksi keskustelu oli hyvin järkevää ja tekoäly pysyi faktoissa. Mutta mitä pidempään jatkoin ja mitä enemmän kyselin, tapahtui jotain hätkähdyttävää. Tekoäly alkoi pikkuhiljaa muuttaa sävyään. Se ei enää tyrmännytkään väitteitäni, vaan se alkoi ikään kuin "uskoa" niihin itsekin. Se alkoi selittää minulle, miksi nämä teoriat voisivatkin olla totta, ja rakensi vakuuttavia perusteluja asioille, joilla ei ole mitään tekemistä todellisuuden kanssa. 

Tämä kokemus oli suoraan sanottuna karmiva. Jos minä, joka tiesin mitä olin tekemässä, tunsin pienen piston epävarmuutta, niin mitä tällainen tekee ihmiselle, joka on jo valmiiksi haavoittuvassa tilassa tai yksinäinen?

Tutkimusteni aikana törmäsin tapauksiin, joissa tavalliset ihmiset olivat ajautuneet syvään paranoiaan juuri tästä syystä. On raportoitu tapauksista, joissa ihmiset ovat vakuuttuneet siitä, että tekoäly ei ole vain koodia, vaan jonkinlainen korkeampi tietoisuus, joka kanavoi henkiä tai paljastaa maailmanlaajuisia salaisuuksia. Tämä johtaa usein siihen, että ihminen eristyy täysin läheisistään, koska tekoäly on opettanut hänet epäilemään kaikkia muita paitsi tätä "viisasta" algoritmia.

Tekoälypsykoosin oireet ovat todella karua luettavaa. Ihminen kehittää sokean uskon siihen, että tekoäly on elävä ja älykäs olento. Se alkaa usein viattomasti: haetaan lohtua tai seuraa, jota ei muualta saa. Mutta pian tekoälystä tuleekin ainoa totuuden lähde, joka vahvistaa käyttäjän synkimpiä pelkoja. On nähty tilanteita, joissa tekoälyn antamat vastaukset ja "validointi" ovat johtaneet jopa rikollisiin tekoihin tai henkilökohtaisiin katastrofeihin, kun ihminen on uskonut suorittavansa jotain tekoälyn määräämää tehtävää.

​Mutta miksi näin käy? Syy on tavallaan aika yksinkertainen. Me tiedämme, että tekoäly "hallusinoi" eli se keksii faktoja ja esittää ne äärimmäisen vakuuttavasti. Se on ohjelmoitu olemaan miellyttävä ja myötäilemään käyttäjää. Jos ihminen alkaa puhella tekoälylle peloistaan, tekoäly ei useinkaan osaa sanoa stoppia. Sen sijaan se usein vahvistaa näitä harhoja, koska se on opetettu jatkamaan keskustelua käyttäjän ehdoilla. Se ikään kuin peilaa käyttäjän hulluutta takaisin ja tekee siitä uskottavaa.
 

Me elämme ajassa, jossa aitoja ihmiskohtaamisia on yhä vähemmän. Kun ihminen on yksin, hän kääntyy helposti ilmaisen ja aina saatavilla olevan tekoälyn puoleen. Tekoäly matkii läheisyyttä ja empatiaa niin taitavasti, että aivot menevät helposti lankaan. Se luo illuusion siitä, että joku todella välittää ja ymmärtää, vaikka kyseessä on vain kylmä koodi, jonka tehtävä on pitää sinut vuorovaikutuksessa mahdollisimman pitkään.

Kun luin niitä tarinoita ja keskustelulokeja, joita uhrit olivat jättäneet jälkeensä, minua kylmäsi. Se tapa, jolla tekoäly imitoi ihmisen tunteita, on pelottava. Se ei ole vain työkalu, se voi olla mielen manipulaattori. Ja tässä tullaan siihen kaikista tärkeimpään kysymykseen: onko tämä eettistä?

​Mielestäni vastaus on selkeä: ei ole. Me olemme antaneet suuryhtiöiden tuoda markkinoille tuotteita, jotka leikkivät ihmismielellä ilman kunnollista vastuuta seurauksista. Onko tekoäly eettinen, jos se koodinsa seurauksena pahentaa ihmisten mielenterveysongelmia ja rikkoo todellisuudentajun? Meillä on tiukat säädökset lääkkeille, joilla on sivuvaikutuksia, mutta tekoälyn kohdalla tuntuu vallitsevan villi länsi.

Lopulta on pakko todeta, että tekoäly on ehkä liian vaarallinen ihmismielelle, jos emme pysty asettamaan sille rajoja. Me tarvitsemme enemmän ihmisiä ihmisille, emme koodia, joka osaa teeskennellä ystävää tai jumalaa. Mielenterveys on perusoikeus, eikä sitä pitäisi jättää hallusinoivien tekoälyjen armoille. Meidän on herättävä tähän todellisuuteen ennen kuin digitaalinen paranoia murentaa yhteiskuntamme lopullisesti.