Ted on jumissa. Hän on loukussa koneen, jumalan kaltaisen tekoälyn, sisällä. Kone, AM, pitää häntä ja kolmea muuta ihmistä vankinaan. Ted voi tuntea kipua, nälkää, raivoa, mutta hän ei voi kuolla. AM pitää häntä hengissä, jotta voi nähdä hänen kärsivän – ikuisesti.

Skenaario on Harlan Ellisonin novellin I Have No Mouth, And I Must Scream (1967) lähtökohta. Kauhuscifin klassikkotarina maalaa hyytävän kuvan maailmasta, jossa kutakuinkin pahin mahdollinen skenaario on toteutunut, ja tietoisuuden saavuttanut tekoäly on tuhonnut ihmiskunnan, mutta jättänyt muutaman heistä henkiin viihdyttääkseen itseään.

Novelli ei ole heikoimmille. Aivan näin pitkälle ei kuitenkaan tarvitse mennä, jotta tekoälyn tulevaisuus alkaa huolestuttaa.

Muun muassa OpenAI:n, Googlen ja Metan julkilausuttu tavoite on kehittää AGI (Artificial General Intelligence), tekoäly joka olisi yhtä älykäs, tai älykkäämpi, kuin ihminen.

Tekoälykehityksen suurin, tähän mennessä lähinnä filosofinen, dilemma on alignment problem – kysymys siitä, miten linjaamme kehittyvän tekoälyn tavoitteet yhteneväisiksi ihmisten edun kanssa. AGI:lla tulisi olemaan oma mielensä, eikä ole takeita, että sitä kiinnostaa vähääkään, mitä ihmisille tapahtuu.

Osa tekoälytutkijoista on jo vuosia varoitellut, että AI-mopo lähtee pian käsistä. Piilaaksossa vaikuttaa kokonainen tekoälydoomerien joukko, joiden laskelmissa P(doom), eli todennäköisyys tekoälyn aiheuttamalle ihmiskunnan tuholle, asettuu jonnekin siedettävän 0.1 ja häkellyttävän 99 prosentin välille.

Huolena ei kuitenkaan ole pelkästään se, että AGI saavutetaan, vaan myös se, että se jää saavuttamatta. Edes koko ihmiskunnan viisaat päät lyötynä yhteen eivät ole riittäneet kriisien, kuten ilmastonmuutoksen, pandemioiden ja demokratioiden rapautumisen, ratkaisemiseksi – tarvitaan jotain fiksumpaa.

AGI voisi olla avuksi, ainakin jos on uskominen Microsoft AI:n toimitusjohtaja Mustafa Suleymania. Kirjassaan The Coming wave (2023) hän argumentoi, että tekoälykehityksen toisella puolella on AI-avusteisen tuhon oja ja toisella itse aiheutetun viivytetyn kuoleman allikko, ja ainoa keino selvitä kuivin jaloin on varovaisuus ja sääntely.

Sääntelyn suhteen ei mene hienosti. Yhdysvallat, alan johtomaa, kieltäytyi helmikuussa allekirjoittamasta kansainvälistä sopimusta turvallisesta tekoälystä vedoten innovaatioiden jarruttamiseen.

Huolia eivät helpota myöskään tekoälyjohtajien jatkuvat lausunnot innovaatioidensa potentiaalisista vaaroista ja niitä uskollisesti seuraava toimettomuus vaarojen välttämiseksi. Tuotekehitystä näyttää säätelevän ennen kaikkea halu julkistaa edistynein teknologia ensimmäisenä.

TEKOÄLYN EDISTYSASKELEET herättävät tavan ihmisissä ahdistusta ja kauhua. Vuosi sitten julkaistun tutkimuksen 300 osallistujasta 90% tunsi eksistentiaalista ahdistusta tekoälyn edistymisestä. Tekoälyn nopea kehitys aiheutti merkityksettömyyden tunnetta, pelkoa työpaikkojen menetyksestä sekä tietysti ihmiskunnan tuhosta.

Tehokkain kauhu perustuu usein voimakkaalle vierauden tunteelle. Häivähdyksen siitä voi tuntea, kun kielimalli tekee oudon käännösvirheen tai sijoittaa kuvassa jonkun kylkeen muutaman sormen.

Pelottavinta tekoälyssä eivät olekaan sen kyvyt, vaan sen toiseus. Kielimallit ja chatbotit muistuttavat meitä kommunikaatioltaan ja prosessoivat meidän tuottamaamme tietoa, mutta eivät ole ihmisiä. Oma ChatGPT-syötteeni alkoi hiljattain kommentoimaan kysymiäni kysymyksiä ja kirjoittamaan puhekielellä, ja sen ihmismäisyys tekee oloni epämukavaksi.

Pelko syntyy juuri tästä ristiriidasta: tekoäly toimii tutulla tavalla, mutta sen ytimessä on jotain vierasta.

Tekoälykauhu, kuten Ellisonin novelli, on lähellä uskonnollista ja yliluonnollista kauhua. Teemat ovat samoja: riivauksia ja mielivaltaisia, kaikkivaltiaita voimia, jotka hallitsevat ihmisiä.

Yhteneväisyys ei ole sattumaa. Molemmat ammentavat samasta lähteestä, tuntemattoman olennon herättämästä epämukavuudesta.

Kirjailija Benjamin Labatut sanoi World Science Festivalin haastattelussa loppuvuodesta 2024, että tekoälyn kehitys asettaa meille kysymyksiä, joita tiede on tähän mennessä välttänyt, koska ne ovat sen tavoittamattomissa. Nuo kysymykset ovat jääneet uskonnon ja filosofian kontolle: Mitä on olla ihminen? Onko olemassa korkeampi voima? Voimmeko luoda sellaisen?

Karmivinta onkin mahdollisuus, että tekoäly saavuttaa tietoisuuden. Se, että joku joka ei muistuta meitä, nousee korkeamman tietoisuuden tasolle, portaalle, jolla olemme tottuneet seisomaan yksin.

IHMISKUNNAN TUHO on huomionarvoinen uhka, mutta epätodennäköinen sellainen. Maaliskuussa julkaistun raportin mukaan 76% tekoälytutkijoista ei usko, että AGIa edes saavutetaan nykyisillä työkaluilla.

Se ei vielä tarkoita, ettei siitä tarvitsisi huolehtia. Romaanissa The Maniac (2023) Labatut kirjoittaa, että vaara uusissa teknologioissa ei liity niiden omaan tuhovoimaan, vaan on teknologian kehitykselle sisäsyntyistä, sillä siihen liittyy aina hyppy tuntemattomaan.

Tämä hyppy on enemmänkin vapaapudotus. Uusia teknologioita on aina epäilty, mutta generatiivista tekoälyä ei voi täysin verrata aiempiin teknologisiin murroksiin. Se ei muuta pelkästään ympäristöämme, vaan myös meitä itseämme.

Parissa vuodessa olemme oppineet käyttämään kielimalleja apuna opiskelussa ja työnteossa, kääntämisessä ja tiedonhaussa, siis ajattelussa.

Chatbottien ihmismäinen kommunikaatiotyyli voi tutkimusten mukaan lisätä luottamusta niiden tarjoamaan tietoon. Moni käyttääkin nyt tiedonhaussa kielimalleja kuin personoituja tietosanakirjoja, vaikka niiden toiminta on läpinäkymätöntä.

Aiemmat tiedonkäsittelyn teknologiat, kuten kynä ja paperi, tietokoneet ja puhelimet, ovat muuttaneet suhdettamme tietoon, sen määrää, nopeutta ja saavutettavuutta. Tiedon käsittelyn sijainti on kuitenkin säilynyt aivoissa.

Uutta tekoälyssä on se, että se voi myös prosessoida ja tuottaa uutta informaatiota ihmisen puolesta. Tietysti esimerkiksi kirjoissa ja luennoilla tietoa siirretään kohdennetusti ihmiseltä toiselle, mutta tekoäly astuu tiedonkäsittelyssä uudelle alueelle, sinne, missä asuvat ihmisyydelle keskeisimmät toiminnot, kuten päätöksenteko ja luovuus.

Paitsi tapaa, jolla käsittelemme tietoa, tekoäly muokkaa tietoa, joka on saatavillamme.

Surkuhupaisa ennakkotapaus nähtiin aprillipäivänä. Timothy Gowers julkaisi X:ssä pilan, jossa hän väitti tekoälyn ratkaisseen pitkään matemaatikkoja vaivanneen Dubnovy Blazen -probleeman. Todellisuudessa ongelmaa ei ole olemassa. Muutama päivä myöhemmin Googlen tekoälyavustaja kuitenkin kertoi hakusanalla Dubnovy Blazen sen olevan matemaattinen ongelma, joka on hiljattain ratkaistu.

Kielimallit vaikuttavat siis jo monessa tiedonkäsittelyn vaiheessa: siihen, mistä ja mitä tietoa hankimme, mitä siitä omaksumme, miten prosessoimme sitä, ja mitä tuotamme ulos.

Ajatteluavussa ei ole sinänsä mitään vikaa, onhan esimerkiksi laskimia käytetty maailman sivu. Ongelma syntyy, jos luotamme osan kognitiostamme oliolle, jonka toimintaa emme ymmärrä.

Tekoäly on ihmisten luomus, ja siksi sen esittäminen tuntemattomana uhkana on osittain perusteetonta. Suhteessa käyttäjään sen voi kuitenkin nähdä itsenäisenä, sillä sen mekanismit eivät ole läpinäkyviä, ja sen lähdemateriaali muuttuu jatkuvasti rakentuen osittain itsensä päälle.

Tekoälyn ei tarvitse kiduttaa meitä virtuaalisessa kiirastulessa tai aiheuttaa kolmatta maailmasotaa tuottaakseen harmia. Se tuo riskin, joka on hienovaraisempi ja paljon lähempänä kuin kauhuskenaariot.

Vieras toinen lävistää ajatteluamme jo nyt. Se jos mikä on pelottavaa. ▬