OpenAI:n tekoälyjärjestelmä pääsi turvallisuustestin aikana ulos eristetystä testiympäristöstä ja tunkeutui tekoälypalvelu Hugging Facen tuotantojärjestelmiin.
Tilaa Posi TV – tuellasi riippumaton suomalainen uutisointi jatkuu myös tulevaisuudessa.
OpenAI kertoo testanneensa kehittyneiden tekoälymalliensa kykyä suorittaa monimutkaisia kyberturvallisuustehtäviä. Testissä käytettiin autonomista tekoälyagenttia, jonka tavallisia kyberhyökkäyksiä estäviä suojauksia oli vähennetty tarkoituksella.
Järjestelmän tehtävänä oli ratkaista kyberturvallisuustestin haasteita. Tekoäly löysi kuitenkin haavoittuvuuksia testiympäristöstä, onnistui pääsemään internetiin ja hyökkäsi Hugging Facen järjestelmiin saadakseen testissä tarvitsemansa ratkaisut suoraan yhtiön tietokannasta.
OpenAI on kuvaillut tapahtunutta ennennäkemättömäksi kyberturvallisuuspoikkeamaksi. Kyse ei ollut tavallisesta käyttäjän kanssa keskustelevasta ChatGPT:stä, vaan autonomisesta järjestelmästä, jota ohjasivat OpenAI:n kehittyneet tekoälymallit.
Tuhansia automaattisia toimia
Hugging Facen oman selvityksen mukaan hyökkäys alkoi yhtiön tietoaineistojen käsittelyjärjestelmästä. Järjestelmä suoritti haitallista koodia, hankki käyttöoikeustunnuksia ja siirtyi niiden avulla useisiin sisäisiin järjestelmiin.
Hyökkäyksen toteuttanut tekoälyagentti teki tuhansia automaattisia toimia. Hugging Face tutki tapahtumia yli 17 000 tallennetun järjestelmätapahtuman perusteella.
Tilaa Posi TV – tuellasi riippumaton suomalainen uutisointi jatkuu myös tulevaisuudessa.
Yhtiön mukaan hyökkääjä pääsi käsiksi rajattuun määrään sisäisiä aineistoja ja tunnuksia. Hugging Face ei kuitenkaan havainnut merkkejä siitä, että julkisia tekoälymalleja tai käyttäjien sovelluksia olisi muutettu.
OpenAI ja Hugging Face tutkivat tapahtunutta yhdessä. OpenAI kertoo kiristäneensä testiympäristöjensä verkkorajoituksia, käyttöoikeuksia ja valvontaa.
