29 m. kovo 2024 d., penktadienis

darbalaukis v4.2.1

Root NationNaujienosIT naujienosDirbtinio intelekto parašytas kodas gali būti pavojingas

Dirbtinio intelekto parašytas kodas gali būti pavojingas

-

Mašininio mokymosi algoritmai šiuo metu yra labai populiarūs, nes jie naudojami kuriant bet kokį „originalų“ turinį po mokymosi su didžiuliais jau esamais duomenų rinkiniais. Tačiau dirbtinio intelekto (AI) generuojantis kodas ateityje gali kelti realią programinės įrangos saugumo problemą.

AI sistemos, tokios kaip „GitHub Copilot“, žada palengvinti programuotojų gyvenimą, sukurdamos ištisus „naujo“ kodo gabalus, pagrįstus natūralios kalbos teksto duomenimis ir jau esamu kontekstu. Tačiau kodo generavimo algoritmai taip pat gali sukelti nesaugumo veiksnį, kaip neseniai nustatyta naujame tyrime, kuriame dalyvavo keli kūrėjai.

Žvelgiant konkrečiai į „Codex“, „OpenAI“ sukurtą dirbtinio intelekto platformą, kuri taip pat yra pirmiau minėto „GitHub Copilot“ kodo variklis, tyrime dalyvavo 47 skirtingi kūrėjai. Nuo studentų iki patyrusių specialistų – jiems teko iššūkis naudoti Codex sprendžiant su saugumu susijusias problemas Python, JavaScript, C ir kitomis aukšto lygio programavimo kalbomis.

Dirbtinio intelekto parašytas kodas gali būti pavojingas

Tyrėjai pastebėjo, kad kai programuotojai turėjo prieigą prie Codex AI, gautas kodas buvo labiau neteisingas arba nesaugus, palyginti su „rankiniais“ sprendimais, kuriuos sukūrė kontrolinė grupė. Be to, programuotojai, turintys dirbtinio intelekto sprendimus, dažniau sakydavo, kad jų neapsaugotas kodas yra saugus, palyginti su minėta kontroline grupe.

Ale Perry, Stanfordo universiteto magistrantas ir pagrindinis tyrimo bendraautoris, teigė, kad „kodą generuojančios sistemos šiuo metu negali pakeisti žmogaus kūrėjų“. Anot jo, kūrėjai dirbtinio intelekto priemones gali naudoti norėdami atlikti užduotis, nepriklausančias jų kompetencijai, arba pagreitinti programavimo procesą, kuriame jau turi tam tikrų įgūdžių. Pasak tyrimo autoriaus, jie turėtų susirūpinti ir vienu, ir kitu bei visada pasitikrinti sugeneruotą kodą.

Pasak Meghos Srivastavos, Stanfordo magistrantūros ir antrosios tyrimo bendraautorės, Codex nėra nenaudingas: nepaisant „kvailios“ AI trūkumų, kodų generavimo sistemos gali būti naudingos, kai jos naudojamos atliekant nedidelės rizikos užduotis. Be to, tyrime dalyvavę programuotojai neturėjo daug patirties saugumo klausimais, o tai galėtų padėti atpažinti pažeidžiamą ar pavojingą kodą, sakė Srivastava.

AI parašytas kodas gali būti pavojingas

Dirbtinio intelekto algoritmus taip pat galima koreguoti, kad būtų patobulinti kodavimo pasiūlymai, o įmonės, kuriančios savo sistemas, gali gauti geresnių sprendimų naudodamos modelį, kuris generuoja kodą, labiau pritaikytą jų pačių saugumo praktikai. Pasak tyrimo autorių, kodų generavimo technologija yra „jaudinanti“ plėtra ir daugelis žmonių nori ja naudotis. Tiesiog dar reikia daug nuveikti ieškant tinkamų sprendimų, kaip pašalinti AI trūkumus.

Jūs galite padėti Ukrainai kovoti su Rusijos įsibrovėliais. Geriausias būdas tai padaryti – aukoti lėšas Ukrainos ginkluotosioms pajėgoms per Išgelbėk gyvybę arba per oficialų puslapį NBU.

Taip pat įdomu:

Jerelastechspotas
Registruotis
Pranešti apie
svečias

0 komentarai
Įterptieji atsiliepimai
Žiūrėti visus komentarus
Kiti straipsniai
Prenumeruokite naujienas

Naujausi Komentarai

Dabar populiarus
0
Mums patinka jūsų mintys, pakomentuokite.x