Tekoäly tuottaa vastauksensa neljässä vaiheessa: 1) saat syötteen (kehotteen, kuvan tai kysymyksen), 2) malli vertaa sitä koulutuksessa oppimaansa tilastolliseen rakenteeseen, 3) se muodostaa tuotoksen osa kerrallaan opitun perusteella, ja 4) tulos näytetään sinulle. Missään vaiheessa ohjelma ei hae valmista vastausta tietokannasta — se rakentaa vastauksen joka kerta uudelleen opittujen kuvioiden pohjalta.
Tämä neljän vaiheen kaava pätee riippumatta siitä, kysytkö tekstiä, pyydätkö kuvaa vai annatko mallille tiedoston analysoitavaksi — vain se, mitä tapahtuu vaiheessa kaksi ja kolme teknisesti, vaihtelee sisältötyypin mukaan. Tekstiä tuottava kielimalli ennustaa seuraavaa sanaa, kuvaa tuottava malli muodostaa kuvan asteittain tarkentaen, mutta molemmissa perusidea on sama: opittu tilastollinen rakenne, ei kiinteä sääntö tai valmis vastaus, ohjaa lopputulosta.
Miten tekoäly koulutetaan?
Koulutusvaiheessa mallille näytetään valtava määrä esimerkkejä — tekstiä, kuvia tai muuta dataa lähteestä riippuen. Tästä data-aineistosta malli ei opi ulkoa yksittäisiä vastauksia, vaan tilastollisia säännönmukaisuuksia: mitkä sanat esiintyvät tyypillisesti yhdessä, mitkä kuvion piirteet liittyvät tiettyyn luokkaan, ja niin edelleen. Tämä vastaa suoraan koneoppimisen virallista määritelmää: “tekoälyteknologia, jossa ohjelma oppii koulutusvaiheessa saamistaan tiedoista… ja muuttaa niiden perusteella itsenäisesti toimintaansa” (Tietotekniikan termitalkoot). Kun koulutus on valmis, malli ei enää “muista” yksittäisiä koulutusesimerkkejä sellaisenaan — se on tiivistänyt niistä oppimansa tilastollisiksi painotuksiksi, joita se soveltaa jokaiseen uuteen syötteeseen.
Käytännössä koulutus etenee toistokierroksina: malli näkee esimerkin, tekee ennusteen (esimerkiksi “mikä sana tulee seuraavaksi”), ja sen ennustetta verrataan siihen, mikä esimerkissä oikeasti seurasi. Ero näiden kahden välillä ohjaa mallin sisäisiä painotuksia hieman oikeampaan suuntaan. Kun tämä toistetaan valtava määrä kertoja valtavalla määrällä esimerkkejä, mallin ennusteet paranevat asteittain — ei siksi, että joku olisi kertonut sille yksittäistä oikeaa vastausta, vaan siksi, että virheen ja oikean vastauksen välinen ero on ohjannut sen sisäistä rakennetta pikkuhiljaa tarkemmaksi.
Koulutuksen jälkeistä käyttövaihetta kutsutaan usein päättelyksi (inference): tässä vaiheessa malli ei enää opi uutta jokaisesta yksittäisestä keskustelusta, vaan soveltaa jo opittua rakennettaan uuteen syötteeseen. Kun käyt keskustelua chatbotin kanssa, et siis kouluta mallia uudelleen reaaliajassa — malli soveltaa samaa, jo valmiiksi opittua rakennettaan jokaiseen viestiisi. Osa järjestelmistä kerää käytön aikana uutta dataa mahdollista myöhempää koulutuskierrosta varten, mutta se on eri asia kuin oppiminen kesken yksittäisen vastauksen. Tämä selittää myös, miksi malli ei “muista” edellisen keskustelusi yksityiskohtia seuraavalla kerralla, ellei sovellus ole erikseen rakennettu tallentamaan ja palauttamaan sitä tietoa sinulle.
Miksi tekoäly keksii asioita?
Koska mekanismi on nimenomaan tilastollinen ennustaminen, ei tosiasioiden hakeminen. Kielitoimiston sanakirjaa tekevä Kotus on kuvannut asian suoraan: “Tekoäly tarkoittaa käytännössä sanasta sanaan ennustamista, ja siksi se vaatii toimiakseen laadukkaan kielimallin… Tekoäly itsessään ei siis välttämättä tuota järkevää sisältöä, koska se perustuu vain todennäköisyyksiin.” Malli ei siis “valehtele” tarkoituksella eikä “tiedä” tekevänsä virhettä — se tuottaa aina sen sanajakson, joka on sen oman tilastollisen mallin mukaan todennäköisin, riippumatta siitä, onko se tosiasiallisesti totta.
Kotus lisäsi tälle ilmiölle oman suomenkielisen verbinsä sanapoimintoihinsa: hallusinoida, “tekoälyn toimintaa kuvaava verbi. Tekoäly hallusinoi, kun se vastaa sille osoitettuihin kehotteisiin tuottamalla epärealistisia tai järjettömiä vastauksia.” Hallusinaatio ei ole harvinainen häiriötila, vaan sama mekanismi kuin oikeankin vastauksen tuottaminen — ero on vain siinä, osuuko tilastollisesti todennäköisin jatko samalla kertaa myös tosiasiallisesti oikeaksi.
Hallusinaatio on erityisen todennäköinen kolmessa tilanteessa: kun kysytään harvinaisesta, koulutusdatassa niukasti esiintyneestä aiheesta; kun kysytään tarkkaa, yksittäistä lukua tai päivämäärää, jota malli ei ole “nähnyt” riittävän usein muistaakseen sen luotettavasti; ja kun pyydetään lähdeviitettä tai sitaattia, jolloin malli voi tuottaa uskottavan mutta täysin keksityn otsikon tai tekijän, koska se osaa muodostaa lähdeviitteen näköisen tekstin ilman, että sillä on pääsyä mihinkään todelliseen lähdeluetteloon. Näissä tilanteissa kannattaa aina tarkistaa vastaus riippumattomasta lähteestä ennen kuin siihen luottaa.
Ymmärtääkö tekoäly mitä se sanoo?
Ei siinä mielessä kuin ihminen ymmärtää. Kielimallilla ei ole erillistä “tiedän tämän” / “en tiedä tätä” -lippua minkään väitteen kohdalla — sillä on vain arvio siitä, mikä sana on todennäköisin seuraava. Tämän vuoksi se voi tuottaa täysin sujuvan, itsevarman kuuloisen vastauksen, joka on silti asiasisällöltään väärä: sujuvuus ja paikkansapitävyys ovat mekanismin kannalta kaksi eri asiaa. Tämä on myös suoraan syy, miksi tärkeät faktat, luvut ja lähteet kannattaa aina tarkistaa toisesta lähteestä ennen kuin niihin luottaa — erityisesti silloin, kun kyse on jostain, jonka vääränä esittäminen olisi kallista tai haitallista.
Ihmisen ja kielimallin ero kannattaa hahmottaa näin: kun ihminen vastaa kysymykseen, hän voi sanoa “en ole varma” tai tarkistaa asian ennen vastaamista, koska hänellä on käsitys omasta tietämyksensä rajoista. Kielimallilla ei ole vastaavaa sisäistä mittaria omalle epävarmuudelleen — se tuottaa vastauksen samalla itsevarmalla, sujuvalla tyylillä riippumatta siitä, onko taustalla vankka koulutusdata vai lähes tyhjä. Tämä on yksi tärkeimmistä syistä, miksi vastauksen sujuvuutta ei pidä koskaan tulkita merkiksi sen paikkansapitävyydestä.
Tämä pätee myös silloin, kun kielimalli osaa kääntää tekstiä kielestä toiseen tai jatkaa keskeneräistä lausetta: kummassakin tapauksessa se ei etsi valmista käännöstä tai jatkoa mistään taulukosta, vaan tuottaa sen uudelleen omasta opitusta kielenkäsittelyn rakenteestaan käsin, samalla tavalla kuin minkä tahansa muunkin vastauksen.
Tarkempi läpikäynti siitä, mikä kielimalli on ja miten se eroaa esimerkiksi hakukoneesta, on omalla Kielimallit-sivulla. Se, miten koneoppiminen ja syväoppiminen eroavat toisistaan tämän mekanismin sisällä, on koottu sivulle Koneoppiminen, ja yleiskuva siitä, mitä tekoäly ylipäätään tarkoittaa, löytyy sivulta Mikä on tekoäly?
Käytännön nyrkkisääntö: mitä tarkempi, yksityiskohtaisempi ja harvinaisempi kysymyksesi on, sitä suurempi syy tarkistaa vastaus toisesta lähteestä. Yleisluontoiset, laajasti koulutusdatassa esiintyneet aiheet — esimerkiksi yleistiedon selittäminen tai tekstin muotoiluun liittyvät kysymykset — ovat huomattavasti pienemmässä hallusinaatioriskissä kuin kapea, tuore tai harvinainen yksityiskohta, josta koulutusdatassa on ollut vain vähän esimerkkejä.
Neljä vaihetta tarkemmin
- Syöte. Annat mallille kehotteen, kysymyksen, kuvan tai muun aineiston. Tässä vaiheessa mikään ei vielä tapahdu mallin sisällä — kyse on vasta siitä, mitä sille annetaan käsiteltäväksi. Syöte pilkotaan ensin pienempiin osiin (tokeneihin), koska malli ei käsittele tekstiä kokonaisina sanoina vaan näinä pienempinä palasina.
- Vertailu opittuun rakenteeseen. Malli ei etsi vastausta valmiista tietokannasta, vaan käyttää koulutuksessa muodostunutta tilastollista rakennettaan arvioidakseen, mikä on todennäköisin ja järkevin jatko juuri tälle syötteelle. Tässä vaiheessa malli ottaa huomioon koko keskustelun tähänastisen sisällön — ei vain viimeisintä viestiäsi — sen verran kuin sen niin sanottu konteksti-ikkuna sallii.
- Tuotoksen muodostaminen. Erityisesti kielimalleissa tämä tapahtuu osa kerrallaan: malli tuottaa yhden tekstinpalan (tokenin) kerrallaan ja käyttää jo tuottamaansa osaa apuna seuraavan osan ennustamisessa, kunnes vastaus on valmis. Tästä syystä pitkä vastaus ilmestyy näytölle usein sana tai pari kerrallaan sen sijaan, että se ilmestyisi kokonaisena kerralla — sovellus näyttää sinulle jokaisen tokenin heti kun se on valmis.
- Tulos käyttäjälle. Valmis tuotos näytetään sinulle sellaisenaan. Malli ei tässä vaiheessa enää tarkista tulosta erikseen minkään ulkopuolisen totuuslähteen kanssa, ellei järjestelmää ole erikseen rakennettu tekemään niin — esimerkiksi yhdistämällä malliin erillinen hakutoiminto, joka tuo mukaan oikeita, tarkistettavissa olevia lähteitä ennen vastauksen viimeistelyä.
Neljäs vaihe on samalla se kohta, jossa käyttäjän oma tarkkaavaisuus astuu kuvaan: koska malli ei itse merkitse, mitkä osat vastauksesta perustuvat vahvaan koulutusdataan ja mitkä ovat epävarmempaa aluetta, vastuu tarkistamisesta jää aina lukijalle.
Esimerkki: näin sanasta sanaan -ennustaminen näkyy käytännössä
Ajattele kesken jäävää lausetta: “Ulkona sataa, joten otan mukaan ___”. Kielimalli ei tiedä vastausta valmiina, vaan arvioi koulutuksessa oppimansa tilastollisen rakenteen perusteella, mitkä sanat ovat tässä kohdassa todennäköisimpiä jatkoja. “Sateenvarjon” saa todennäköisesti korkean todennäköisyyden, koska sana esiintyy koulutusdatassa usein juuri tässä yhteydessä; “banaanin” saa hyvin matalan todennäköisyyden, koska yhdistelmä on koulutusdatassa harvinainen. Malli valitsee todennäköisimmän vaihtoehdon, lisää sen vastaukseen yhtenä tokenina ja toistaa saman päättelyn seuraavalle sanalle — nyt ottaen huomioon myös juuri lisäämänsä sanan. Tämä yksi mekanismi, toistettuna peräkkäin sana toisensa jälkeen, on kaikki mitä tarvitaan kokonaisen, sujuvan vastauksen tuottamiseen. Mikään vaihe ei sisällä varsinaista ymmärrystä siitä, mitä sateenvarjo on tai miksi sitä käytetään sateella — kyse on aina siitä, mikä sana on tilastollisesti todennäköisin seuraava.
Lähteet
- Tietotekniikan termitalkoot (TEPA-termipankki) — koneoppiminen: https://termipankki.fi/tepa/mot/mot.php?page=results&UI=figr&Opt=8&dic=1&SearchWord=koneoppiminen
- Kotus — “Tekoäly arvaa, sanakirja kertoo”: https://kotus.fi/tekoaly-arvaa-sanakirja-kertoo/
- Kotus — Vuoden 2024 sanapoiminnat (hallusinoida): https://kotus.fi/ajankohtaista/vuoden-sanapoiminnot/vuoden-sanapoiminnot-2024/
Usein kysyttyä
Tarvitseeko tekoäly internet-yhteyden toimiakseen?
Itse malli voi toimia myös ilman verkkoyhteyttä, jos se on ladattu laitteelle paikallisesti. Suurin osa tunnetuista chatboteista kuitenkin ajetaan valmistajan palvelimilla, jolloin viestisi kulkevat verkon yli palvelimelle ja takaisin — silloin yhteys on pakollinen.
Onko kaikilla tekoälymalleilla sama neljän vaiheen kaava?
Perusrunko — syöte, opitun rakenteen hyödyntäminen, tuotoksen muodostaminen, tulos käyttäjälle — pätee yleisesti, mutta yksityiskohdat vaihtelevat tehtävän mukaan. Kuvantunnistus etenee eri tavalla sisäisesti kuin tekstiä tuottava kielimalli, vaikka molemmat noudattavat samaa yleistä logiikkaa: opittu malli, ei kiinteä sääntö, tuottaa lopputuloksen.