Tuttu professori lähetti minulle Linkkarissa viestin, minkä myötä oli tämän uutiskirjeen aihe selvä.
Professori - joka ei halunnut nimeään julki, mutta joka ei ole tekoäly-ystäväni vaan ehtaa lihaa ja verta - oli huolissaan siitä, kuinka tekoäly tuottaa tieteentekijöille monenlaisia ongelmia.
Esimerkkinä hän kertoi jenkkikollegasta, joka oli lähettänyt tutulleni arvioitavaksi artikkelikäsikirjoituksen, jonka viitteissä oli useita kertoja viitattu tuttavani julkaisuihin.
Teksti näytti pätevältä. Ongelmana oli vain, että osa viittauksista oli tekaistuja, ja professorin nimiin oli laitettu artikkeleita, joita hän ei ole koskaan kirjoittanut. Jenkkiproffa olisi peer review -arvioitsijana ollut valmis päästämään käsikirjoituksen läpi.
Tämä ei luonnollisestikaan ole yksittäistapaus. Esimerkiksi kyseinen jenkkiprofessori oli kertonut, että hänen äskettäin arvioitaviksi saamistaan neljästä artikkelista kolmen kirjoittamisessa oli käytetty tekoälyä.
"Ei siinä mitään, jos se olisi jäänyt ideointiin ja tekstin muotoiluun, mutta jos alat kysymään lähteitä, tekoäly kyllä tuottaa niitä – oikeita ja tekaistuja", tuttuni kirjoitti.
“Tiede tuottaa tulkintoja, mutta tieteellisen tutkimuksen pitäisi kaikissa oloissa pohjautua faktoihin.”
Tekoälyn ongelma on, että kun se ei tiedä, sillä on paha tapa arvata - myös tutkimuskäytössä. Kun pyydät lähteitä, se generoi uskottavan näköisiä viitteitä oikeiden tutkijoiden nimillä, oikeilla lehtien nimillä ja uskottavilla otsikoilla. Vain itse artikkeli puuttuu.
Tutkijoille tämä on ymmärrettävästi kestämätön tilanne. Kuten professori asian kiteyttää: "Kyse on tieteellisestä vilpistä, josta tulee seuraamuksia. Yksikin huijauskerta voi olla liikaa."
Mustille listoille joutuneita tutkijoita, joiden tuotoksia ei enää julkaista, on kuulemma jo olemassa.
“Näin ollen asianomaisten tieteellinen ura saattaa loppua jo ennen kuin on edes päässyt alkamaan”, tuttuni totesi.
“Valelääkärien ja fake newsien rinnalle on nousemassa valetutkijoita.”
Jos työskentelet asiantuntijana, joka nojaa tutkimustietoon – oli kyse markkinoinnista, konsultoinnista tai mistä tahansa alasta – sinun täytyy olla todella hereillä. Mainehaitta on paska juttu, tekaistun tiedon pohjalta tehdyt päätökset mahdollisesti jotain paljon paskempaa.
Eikä se pahaa tee meille tavallisille tallaajillekaan opetella suhtautumaan kriittisesti - no, vähän kaikkeen - ja siinä sivussa pohtia, kuinka kirjoitettu, videoitu, äänitetty, savumerkitetty tieto ja sen lähteet varmistetaan.
Käytän itse jatkuvasti Geminin “Deep research” (syvätutkimus suomeksi) -työkalua, ja se on aivan huikea taustoittavan tiedon ja näkökulmien löytämiseen. Paino sanoilla “taustoittava tieto” ja “näkökulmat” - kaikki tarkat faktat, kuten luvut, on pakko käydä tarkastamassa erikseen. Ja kyllä esimerkiksi nämä artikkelit tuottaa oma kaksisormijärjestelmäni.
Kannattaa siis pitää antennit pystyssä eikä antaa oman ajattelun surkastua tekoälyn takia. Mistä päästäänkin näppärästi seuraavan viikon uutiskirjeen aiheeseeen: mitä tarkoittaa “work slop”.
Tsemppiä viikkoon!
Arttu
PS. Ohessa Tieteessä tapahtuu -lehden artikkelin, jossa puidaan samaa ilmiötä. Käykää lukemassa. https://www.tieteessatapahtuu.fi/numerot/5-2025/generatiivinen-tekoaly-haastaa-tiedejulkaisemisen-luotettavuuden