28. március 2024. csütörtök

asztali v4.2.1

Root NationНовиниinformatikai újságA mesterséges intelligencia által írt kód veszélyes lehet

A mesterséges intelligencia által írt kód veszélyes lehet

-

A gépi tanulási algoritmusok manapság divatosak, mivel bármilyen "eredeti" tartalom létrehozására szolgálnak hatalmas, már meglévő adathalmazokon való betanítás után. A mesterséges intelligencia (AI) kódot generáló kód azonban valódi problémát jelenthet a szoftverbiztonság szempontjából a jövőben.

Az olyan mesterséges intelligencia rendszerek, mint a GitHub Copilot, azt ígérik, hogy egyszerűbbé teszik a programozók életét azáltal, hogy természetes nyelvű szövegadatokon és már meglévő kontextuson alapuló "új" kódrészleteket hoznak létre. A kódgeneráló algoritmusok azonban bizonytalansági tényezőt is bevezethetnek, amint azt egy több fejlesztő bevonásával készült új tanulmány nemrég megállapította.

Konkrétan a Codex-et, az OpenAI által kifejlesztett mesterséges intelligencia platformot tekintve, amely egyben a fent említett GitHub Copilot kódmotorja is, 47 különböző fejlesztő vett részt a vizsgálatban. A diákoktól a tapasztalt szakemberekig kihívást jelentett számukra, hogy a Codex segítségével megoldják a biztonsággal kapcsolatos problémákat Python, JavaScript, C és más magas szintű programozási nyelveken.

A mesterséges intelligencia által írt kód eleve veszélyes lehet

A kutatók megjegyezték, hogy amikor a programozók hozzáfértek a Codex mesterséges intelligenciájához, az eredményül kapott kód nagyobb valószínűséggel volt helytelen vagy bizonytalan, mint a kontrollcsoport által tervezett „kézi” megoldásokhoz képest. Ráadásul az AI-alapú megoldásokkal rendelkező programozók nagyobb valószínűséggel mondták azt, hogy védetlen kódjuk biztonságos, mint a fent említett kontrollcsoport.

Ale Perry, a Stanford Egyetem végzős hallgatója és a tanulmány vezető társszerzője szerint "a kódgeneráló rendszerek jelenleg nem helyettesíthetik az emberi fejlesztőket". Szerinte a fejlesztők mesterséges intelligencia eszközöket használhatnak kompetenciájukon kívüli feladatok elvégzésére, vagy felgyorsíthatják azt a programozási folyamatot, amelyben már rendelkeznek bizonyos képességekkel. A tanulmány szerzője szerint mindkettővel foglalkozniuk kell, és mindig ellenőrizniük kell a generált kódot.

Megha Srivastava, a Stanford végzős hallgatója és a tanulmány második társszerzője szerint a Codex nem haszontalan: a "buta" mesterséges intelligencia hiányosságai ellenére a kódgeneráló rendszerek hasznosak lehetnek, ha alacsony kockázatú feladatokra használják őket. Ráadásul a tanulmányban részt vevő programozóknak nem volt nagy tapasztalatuk a biztonsági kérdésekben, ami segíthetne a sebezhető vagy veszélyes kódok azonosításában – mondta Srivastava.

Az AI által írt kód eredendően veszélyes lehet

A mesterséges intelligencia algoritmusai is módosíthatók a kódolási javaslatok javítása érdekében, és a saját rendszereiket fejlesztő vállalatok jobb megoldásokat kaphatnak egy olyan modellel, amely a saját biztonsági gyakorlatuknak megfelelő kódot generál. A tanulmány szerzői szerint a kódgenerálási technológia "izgalmas" fejlesztés, és sokan szívesen használják. Csupán arról van szó, hogy még mindig sok munka vár a megfelelő megoldások megtalálására az AI hiányosságainak orvoslására.

Segíthet Ukrajnának az orosz megszállók elleni küzdelemben. Ennek legjobb módja, ha adományokat adományoz az ukrán fegyveres erőknek ezen keresztül Savelife vagy a hivatalos oldalon keresztül NBU.

Szintén érdekes:

forrásTechSpot
Regisztrálj
Értesítés arról
vendég

0 Hozzászólások
Beágyazott vélemények
Az összes megjegyzés megtekintése
Egyéb cikkek
Iratkozz fel a frissítésekre

Legutóbbi hozzászólások

Most népszerű
0
Imádjuk a gondolataidat, kérlek kommenteld.x