, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Maskininlärningsalgoritmer är på modet just nu, eftersom de används för att skapa alla slags "original" innehåll efter att ha tränat på enorma redan existerande datamängder. Kod som genererar artificiell intelligens (AI) kan dock utgöra ett verkligt problem för mjukvarusäkerhet i framtiden.
AI-system som GitHub Copilot lovar att göra programmerares liv enklare genom att skapa hela bitar av "ny" kod baserad på textdata på naturligt språk och redan existerande sammanhang. Men kodgenereringsalgoritmer kan också introducera en osäkerhetsfaktor, vilket en ny studie som involverade flera utvecklare nyligen fann.
Ser man specifikt på Codex, den artificiella intelligensplattform som utvecklats av OpenAI och som också är kodmotorn bakom ovannämnda GitHub Copilot, deltog 47 olika utvecklare i studien. Från studenter till erfarna proffs har de utmanats att använda Codex för att lösa säkerhetsrelaterade problem i Python, JavaScript, C och andra högnivåprogrammeringsspråk.
Forskarna noterade att när programmerare hade tillgång till Codex AI var det mer sannolikt att den resulterande koden var felaktig eller osäker jämfört med "manuella" lösningar designade av en kontrollgrupp. Dessutom var programmerare med AI-drivna lösningar mer benägna att säga att deras oskyddade kod var säker, jämfört med den tidigare nämnda kontrollgruppen.
Ale Perry, doktorand vid Stanford University och ledande medförfattare till studien, sa att "kodgenererande system för närvarande inte kan ersätta mänskliga utvecklare." Enligt honom kan utvecklare använda artificiell intelligens för att utföra uppgifter utanför sin kompetens eller för att påskynda programmeringsprocessen där de redan har vissa färdigheter. Enligt författaren till studien bör de vara oroliga för båda och alltid kontrollera den genererade koden.
Enligt Megha Srivastava, en doktorand vid Stanford och den andra medförfattaren till studien, är Codex inte värdelös: trots bristerna med "dum" AI kan kodgenereringssystem vara användbara när de används för lågriskuppgifter. Dessutom hade programmerarna som deltog i studien inte mycket erfarenhet av säkerhetsfrågor, vilket kan hjälpa till att upptäcka sårbar eller farlig kod, sa Srivastava.
AI-algoritmer kan också justeras för att förbättra kodningsförslag, och företag som utvecklar sina egna system kan få bättre lösningar med en modell som genererar kod mer lämpad för deras egen säkerhetspraxis. Enligt studiens författare är kodgenereringsteknologi en "spännande" utveckling och många människor är ivriga att använda den. Det är bara det att det fortfarande återstår mycket arbete för att hitta de rätta lösningarna för att övervinna bristerna med AI.
Du kan hjälpa Ukraina att slåss mot de ryska inkräktarna. Det bästa sättet att göra detta är att donera medel till Ukrainas väpnade styrkor genom Rädda liv eller via den officiella sidan NBU.
Också intressant: