Hyökkääjät käyttävät maailman suosituinta chatbottia ChatGPT:tä uusien haittaohjelmien luomiseen.
Kyberturvallisuusyritys WithSecure on vahvistanut löytäneensä esimerkkejä pahamaineisen tekoälyn kirjoittajan luomista haittaohjelmista luonnosta. ChatGPT:stä erityisen vaarallisen tekee se, että se voi tuottaa lukemattomia haittaohjelmien muunnelmia, mikä vaikeuttaa niiden havaitsemista.
Hyökkääjät voivat yksinkertaisesti tarjota ChatGPT:lle esimerkkejä olemassa olevista haitallisista koodeista ja ohjeistaa sitä luomaan niiden perusteella uusia kantoja, jolloin he voivat jatkaa haittaohjelmia kuluttamatta lähes yhtä paljon aikaa, vaivaa ja tietoa kuin ennen.
Uutiset tulevat keskellä paljon puhetta tekoälyn säätelystä, jotta sitä ei käytetä haitallisiin tarkoituksiin. Kun ChatGPT tuli villisti suosituksi viime marraskuussa, sen käyttöön ei ollut sääntöjä, ja kuukauden sisällä se kaapattiin haitallisten sähköpostien ja tiedostojen kirjoittamiseen.
Mallissa on tiettyjä suojatoimia, joiden tarkoituksena on estää haitallisten kehotteiden suorittaminen, mutta hyökkääjät voivat ohittaa ne.
WithSecuren toimitusjohtaja Juhani Hintikka kertoi Infosecuritylle, että kyberturvallisuuden puolustajat käyttävät tyypillisesti tekoälyä uhkatekijöiden manuaalisesti luomien haittaohjelmien etsimiseen ja suodattamiseen.
Tämä näyttää kuitenkin muuttuvan nyt, kun tehokkaat tekoälytyökalut, kuten ChatGPT, ovat vapaasti saatavilla. Etäkäyttötyökaluja on käytetty laittomiin tarkoituksiin, ja nyt sama koskee tekoälyä.
Tim West, WithSecuren uhkatiedon johtaja, lisäsi, että "ChatGPT tukee ohjelmistosuunnittelua sekä hyvällä että huonolla tavalla, mikä auttaa ja alentaa haittaohjelmien kehittäjien pääsyn esteitä."
Hintikan mukaan ChatGPT:n luomat phishing-sähköpostit ovat yleensä ihmisten huomioimia, ja LLM:n kehittyessä voi olla vaikeampaa estää huijauksiin joutumista lähitulevaisuudessa.
Lisäksi hyökkääjien hyökkäysten onnistumisen kasvaessa hälyttävää vauhtia hyökkääjät investoivat uudelleen ja muuttuvat organisoituneemmiksi, laajentavat toimintaansa ulkoistamalla ja syventävät tekoälyä koskevaa ymmärrystään käynnistääkseen onnistuneempia hyökkäyksiä.
Hintikka päätteli, että kyberturvallisuuden tulevaisuutta tarkasteltaessa "se tulee olemaan hyvän tekoälyn ja huonon tekoälyn peli".
Lue myös: