Tekoälyn kirjoittama koodi voi olla vaarallista

Koneoppimisalgoritmit ovat tällä hetkellä muotia, sillä niitä käytetään kaikenlaisen "alkuperäisen" sisällön luomiseen sen jälkeen, kun niitä on harjoiteltu valtavilla jo olemassa olevilla tietojoukoilla. Tekoälyä (AI) tuottava koodi voi kuitenkin olla todellinen ongelma ohjelmistoturvallisuudelle tulevaisuudessa.

Tekoälyjärjestelmät, kuten GitHub Copilot, lupaavat helpottaa ohjelmoijien elämää luomalla kokonaisia ​​"uusia" koodipaloja, jotka perustuvat luonnollisen kielen tekstitietoihin ja olemassa olevaan kontekstiin. Mutta koodin luontialgoritmit voivat myös tuoda mukanaan epävarmuustekijän, kuten uusi tutkimus, johon osallistui useita kehittäjiä, havaitsi äskettäin.

Tarkasteltaessa erityisesti Codexia, OpenAI:n kehittämää tekoälyalustaa, joka on myös edellä mainitun GitHub Copilotin koodimoottori, tutkimukseen osallistui 47 erilaista kehittäjää. Opiskelijoista kokeneisiin ammattilaisiin heidät on haastettu käyttämään Codexia turvallisuuteen liittyvien ongelmien ratkaisemiseen Pythonissa, JavaScriptissä, C:ssä ja muissa korkean tason ohjelmointikielissä.

Tutkijat totesivat, että kun ohjelmoijat pääsivät käyttämään Codexin tekoälyä, tuloksena oleva koodi oli todennäköisemmin virheellinen tai epävarma verrattuna kontrolliryhmän suunnittelemiin "manuaalisiin" ratkaisuihin. Lisäksi tekoälypohjaisten ratkaisujen ohjelmoijat sanoivat todennäköisemmin, että heidän suojaamaton koodinsa oli turvallinen verrattuna edellä mainittuun kontrolliryhmään.

Ale Perry, jatko-opiskelija Stanfordin yliopistosta ja tutkimuksen johtava toinen kirjoittaja, sanoi, että "koodia luovat järjestelmät eivät voi tällä hetkellä korvata ihmisen kehittäjiä". Hänen mukaansa kehittäjät voivat käyttää tekoälytyökaluja osaamisen ulkopuolisiin tehtäviin tai nopeuttaa ohjelmointiprosessia, jossa heillä on jo tiettyjä taitoja. Tutkimuksen tekijän mukaan heidän tulee olla huolissaan molemmista ja aina tarkistaa luotu koodi.

Stanfordin jatko-opiskelijan ja tutkimuksen toisen kirjoittajan Megha Srivastavan mukaan Codex ei ole hyödytön: "tyhmän" tekoälyn puutteista huolimatta koodintuotantojärjestelmät voivat olla hyödyllisiä käytettäessä vähäriskisiin tehtäviin. Lisäksi tutkimukseen osallistuneilla ohjelmoijilla ei ollut paljoa kokemusta turvallisuusasioista, mikä voisi auttaa haavoittuvan tai vaarallisen koodin tunnistamisessa, Srivastava sanoi.

Tekoälyalgoritmeja voidaan myös muokata parantamaan koodausehdotuksia, ja omia järjestelmiään kehittävät yritykset voivat saada parempia ratkaisuja mallilla, joka luo koodia paremmin omiin tietoturvakäytäntöihinsä. Tutkimuksen tekijöiden mukaan koodintuotantoteknologia on "jännittävä" kehitystyö ja monet ihmiset ovat innokkaita käyttämään sitä. On vain vielä paljon tehtävää oikeiden ratkaisujen löytämiseksi tekoälyn puutteiden korjaamiseksi.

Voit auttaa Ukrainaa taistelemaan venäläisiä hyökkääjiä vastaan. Paras tapa tehdä tämä on lahjoittaa varoja Ukrainan asevoimille Pelasta elämä tai virallisen sivun kautta NBU.

Mielenkiintoista myös:

• Kaikki mitä kutsumme tekoälyksi, ei todellakaan ole tekoälyä. Tässä on mitä sinun on tiedettävä
• Asiantuntijat varoittavat: pian tekoäly varastaa älyn