ChatGPT:n kanssa käyty keskustelu sai Yhdysvalloissa poikkeuksellisen käänteen, kun tekoälypalveluun kirjoitetut viestit päätyivät viranomaisten tietoon. Tapaus paljastaa samalla jotain olennaista siitä, kuinka yksityisiä keskustelut tekoälyn kanssa lopulta ovat.
Floridassa Yhdysvalloissa 25-vuotias Darren Zhou kertoi ChatGPT:lle yksityiskohtaisesti väkivaltaisista suunnitelmistaan entistä tyttöystäväänsä kohtaan. Tilanne eteni lopulta niin vakavaksi, että ChatGPT:n kehittänyt OpenAI ilmoitti asiasta FBI:lle.
Tuore tapaus osoittaa samalla konkreettisesti, että keskustelu ChatGPT:n kanssa ei ole kaikissa tilanteissa vain käyttäjän ja tekoälyn välinen asia.
Tilaa Posi TV lahjaksi – tuellasi riippumaton suomalainen uutisointi jatkuu myös tulevaisuudessa.
Keskustelu muuttui synkäksi eron jälkeen
Virginia Lawyers Weeklyn tapauksen oikeusasiakirjoihin perustuvan selvityksen mukaan Zhou oli seurustellut 21-vuotiaan naisen kanssa noin puoli vuotta. Suhteen päätyttyä Zhou alkoi maaliskuussa keskustella ChatGPT:n kanssa erosta, entisen kumppaninsa elämästä ja halustaan saada tämä takaisin.
Keskustelujen sisältö muuttui kuitenkin nopeasti huomattavasti vakavammaksi.
Oikeusasiakirjojen mukaan Zhou kertoi tekoälylle aikovansa tappaa entisen tyttöystävänsä. Hän kuvaili myös suunnitelmia, joihin sisältyivät naisen sieppaaminen, seksuaalinen väkivalta sekä murha-itsemurha.
Yhdessä viestissä Zhou kirjoitti tappavansa naisen kuukauden loppuun mennessä. Toisessa hän ilmoitti ajatuksenaan olevan käytännössä se, ettei kukaan muukaan saisi naista, ellei hän itse voisi tätä saada.
Kyse ei viranomaisten arvion mukaan ollut enää vain epämääräisestä raivon purkamisesta.
Zhou kuvaili muun muassa menevänsä kukkien kanssa naisen kuntosalin pysäköintialueelle. Mikäli nainen torjuisi hänet, Zhou kertoi aikovansa käyttää asetta. Hän kuvaili lisäksi suunnitelmaa, jossa nainen pakotettaisiin aseella hänen kotiinsa ja otettaisiin panttivangiksi.
OpenAI ilmoitti FBI:lle
Tässä vaiheessa tapahtumaketju sai poikkeuksellisen käänteen.
OpenAI havaitsi keskustelut ja ilmoitti asiasta FBI:lle. Liittovaltion viranomaiset toimittivat toukokuussa noin kahden kuukauden ajalta Zhoun ChatGPT-viestejä Palm Beach Countyn sheriffin toimistolle. Viranomaisille toimitetuissa aineistoissa olivat tiettävästi Zhoun kirjoittamat viestit, mutta eivät ChatGPT:n vastaukset.
Aineistoa tarkastelleen apulaisseriffin mukaan viestit eivät näyttäneet epämääräisiltä tunnepurkauksilta, vaan niissä näkyi toistuvaa suunnittelua ja tekojen harjoittelua ajatuksen tasolla.
Poliisi teki tämän jälkeen tarkastuskäynnin Zhoun entisen tyttöystävän luo.
Nainen kertoi päättäneensä suhteen puhelimitse, koska hän pelkäsi Zhoun reaktiota. Viranomaisten mukaan Zhou oli jatkanut yhteydenottoja eron jälkeen eri puhelinnumeroista ja sosiaalisen median kautta siitä huolimatta, että nainen oli estänyt hänet ja pyytänyt jättämään hänet rauhaan.
Naisen hallussa oli lisäksi kuvakaappauksia seksuaalisista, häiritsevistä ja uhkaavista viesteistä.
Mies pidätettiin – edessä olisi voinut olla 25 vuotta vankeutta
Zhou pidätettiin toukokuussa. Hän vietti kaksi päivää Palm Beach Countyn vankilassa ennen vapautumistaan 100 000 dollarin takuita vastaan.
Syyttäjä nosti häntä vastaan kesäkuussa syytteet törkeästä vainoamisesta, kirjallisista tappouhkauksista sekä viestintävälineen laittomasta käyttämisestä. Syytteistä olisi voinut seurata yhteensä jopa 25 vuoden vankeusrangaistus.
Zhou tunnusti 13. elokuuta syyllisyytensä kaikkiin kolmeen rikokseen osana syyttäjän kanssa tehtyä sopimusta.
Vankilaan hän ei kuitenkaan joutunut.
Tuomari Scott Suskauer määräsi Zhoulle kahdeksan vuoden valvonta-ajan. Ensimmäiset kaksi vuotta hänen liikkumistaan seurataan elektronisesti nilkkapannalla. Lisäksi hänen on osallistuttava väkivallan ehkäisyohjelmaan ja mielenterveysarvioon. Hän ei saa pitää yhteyttä entiseen tyttöystäväänsä eikä pitää hallussaan aseita.
Tuomari kertoi hyväksyneensä sopimuksen sen jälkeen, kun myös uhri oli hyväksynyt sen.
ChatGPT-keskustelu ei ole ehdottoman yksityinen
Tapaus nostaa esille asian, jota kaikki ChatGPT:n käyttäjät eivät välttämättä tiedosta.
OpenAI kertoo itse turvallisuuskäytännöistään varsin suoraan.
Yhtiön turvallisuutta käsittelevän kuvauksen mukaan järjestelmät pyrkivät tunnistamaan keskusteluja, joissa käyttäjä suunnittelee vahingoittavansa muita. Tällaiset keskustelut voidaan ohjata erityiseen käsittelyprosessiin, jossa niitä arvioivat yhtiön koulutetut työntekijät.
Tilaa Posi TV lahjaksi – tuellasi riippumaton suomalainen uutisointi jatkuu myös tulevaisuudessa.
Jos ihmisen tekemässä arvioinnissa katsotaan, että kyseessä on välitön vakavan fyysisen vahingon uhka toiselle ihmiselle, OpenAI kertoo voivansa ilmoittaa tapauksesta viranomaisille.
Lisäksi OpenAI:n viranomaisille tarkoitettu käyttäjätietopyyntöjä koskeva käytäntö sisältää hätätilanteita koskevan poikkeuksen. Yhtiö voi tietyissä tilanteissa luovuttaa tietoja ilman tavanomaista oikeudellista prosessia, jos se vilpittömästi arvioi hätätilanteen sisältävän kuoleman tai vakavan fyysisen vamman vaaran ja tietojen olevan tarpeellisia vaaran ehkäisemiseksi.
OpenAI:n tietosuojakäytäntö puolestaan kertoo, millaisia henkilötietoja palvelu kerää, miten niitä käytetään ja millaisissa tilanteissa niitä voidaan luovuttaa.
Zhoun tapaus tekee periaatteesta poikkeuksellisen konkreettisen: käyttäjän ChatGPT:lle kirjoittamat viestit voivat erittäin vakavassa uhkatilanteessa päätyä OpenAI:n työntekijöiden arvioitaviksi ja lopulta viranomaisille.
