Kode skrevet af kunstig intelligens kan være farlig

Maskinlæringsalgoritmer er i høj kurs lige nu, da de bruges til at skabe enhver form for "originalt" indhold efter træning i enorme allerede eksisterende datasæt. Imidlertid kan kode, der genererer kunstig intelligens (AI), udgøre et reelt problem for softwaresikkerhed i fremtiden.

AI-systemer som GitHub Copilot lover at gøre programmørers liv lettere ved at skabe hele bidder af "ny" kode baseret på naturlige sprogtekstdata og allerede eksisterende kontekst. Men kodegenereringsalgoritmer kan også introducere en usikkerhedsfaktor, som en ny undersøgelse, der involverede flere udviklere, for nylig fandt.

Ser man specifikt på Codex, den kunstige intelligens-platform udviklet af OpenAI, som også er kodemotoren bag den førnævnte GitHub Copilot, deltog 47 forskellige udviklere i undersøgelsen. Fra studerende til erfarne fagfolk er de blevet udfordret til at bruge Codex til at løse sikkerhedsrelaterede problemer i Python, JavaScript, C og andre programmeringssprog på højt niveau.

Forskerne bemærkede, at når programmører havde adgang til Codex' AI, var den resulterende kode mere tilbøjelig til at være forkert eller usikker sammenlignet med "manuelle" løsninger designet af en kontrolgruppe. Derudover var programmører med AI-drevne løsninger mere tilbøjelige til at sige, at deres ubeskyttede kode var sikker sammenlignet med den førnævnte kontrolgruppe.

Ale Perry, en kandidatstuderende ved Stanford University og ledende medforfatter af undersøgelsen, sagde, at "kodegenererende systemer i øjeblikket ikke kan erstatte menneskelige udviklere." Ifølge ham kan udviklere bruge kunstig intelligens-værktøjer til at udføre opgaver uden for deres kompetencer eller til at fremskynde programmeringsprocessen, hvor de allerede har visse færdigheder. Ifølge forfatteren af ​​undersøgelsen bør de være bekymrede over begge dele og altid kontrollere den genererede kode.

Ifølge Megha Srivastava, en kandidatstuderende ved Stanford og den anden medforfatter af undersøgelsen, er Codex ikke ubrugelig: På trods af manglerne ved "dum" AI kan kodegenereringssystemer være nyttige, når de bruges til lavrisikoopgaver. Derudover havde de programmører, der deltog i undersøgelsen, ikke meget erfaring med sikkerhedsspørgsmål, hvilket kunne hjælpe med at identificere sårbar eller farlig kode, sagde Srivastava.

AI-algoritmer kan også justeres for at forbedre kodningsforslag, og virksomheder, der udvikler deres egne systemer, kan få bedre løsninger med en model, der genererer kode, der er mere egnet til deres egen sikkerhedspraksis. Ifølge undersøgelsens forfattere er kodegenereringsteknologi en "spændende" udvikling, og mange mennesker er ivrige efter at bruge den. Det er bare, at der stadig er meget arbejde at gøre for at finde de rigtige løsninger til at løse AI's mangler.

Du kan hjælpe Ukraine med at kæmpe mod de russiske angribere. Den bedste måde at gøre dette på er at donere midler til Ukraines væbnede styrker gennem Red livet eller via den officielle side NBU.

Også interessant:

• Ikke alt, hvad vi kalder AI, er faktisk kunstig intelligens. Her er hvad du behøver at vide
• Eksperter advarer: Snart vil kunstig intelligens stjæle intelligens