Жасанды интеллект жазған код қауіпті болуы мүмкін

Машинамен оқыту алгоритмдері қазір өте танымал, өйткені олар бұрыннан бар үлкен деректер жинақтары бойынша жаттығудан кейін кез келген «түпнұсқа» мазмұнды жасау үшін пайдаланылады. Дегенмен, жасанды интеллект (AI) генерациялайтын код болашақта бағдарламалық қамтамасыз ету қауіпсіздігі үшін нақты проблема тудыруы мүмкін.

GitHub Copilot сияқты AI жүйелері табиғи тілдегі мәтіндік деректер мен бұрыннан бар контекст негізінде «жаңа» кодтың тұтас бөліктерін жасау арқылы бағдарламашылардың өмірін жеңілдетуге уәде береді. Бірақ кодты генерациялау алгоритмдері қауіпсіздік факторын да енгізе алады, өйткені жақында бірнеше әзірлеушілер қатысқан жаңа зерттеу табылды.

Жоғарыда аталған GitHub Copilot бағдарламасының кодтық қозғалтқышы болып табылатын OpenAI әзірлеген жасанды интеллект платформасы Codex-ке ерекше назар аударсақ, зерттеуге 47 түрлі әзірлеуші ​​қатысты. Студенттерден бастап тәжірибелі мамандарға дейін оларға Python, JavaScript, C және басқа да жоғары деңгейлі бағдарламалау тілдерінде қауіпсіздікке қатысты мәселелерді шешу үшін Codex-ті пайдалану талап етілді.

Зерттеушілер бағдарламашылар Codex AI-ға қол жеткізген кезде, нәтиже кодының бақылау тобы әзірлеген «қолмен» шешімдермен салыстырғанда дұрыс емес немесе қауіпті болуы ықтимал екенін атап өтті. Сонымен қатар, AI-мен жұмыс істейтін шешімдері бар бағдарламашылар жоғарыда аталған бақылау тобымен салыстырғанда олардың қорғалмаған коды қауіпсіз деп айту ықтималдығы жоғары болды.

Стэнфорд университетінің аспиранты және зерттеудің жетекші бірлескен авторы Але Перри «код жасайтын жүйелер қазіргі уақытта адам әзірлеушілерін алмастыра алмайды» деді. Оның айтуынша, әзірлеушілер жасанды интеллект құралдарын өз құзыретінен тыс тапсырмаларды орындау немесе белгілі бір дағдылары бар бағдарламалау процесін жеделдету үшін пайдалана алады. Зерттеу авторының айтуынша, олар екеуіне де алаңдап, әрқашан жасалған кодты тексеріп отыруы керек.

Стэнфорд университетінің аспиранты және зерттеудің екінші тең авторы Мега Сриваставаның айтуынша, Codex пайдасыз емес: «мылқау» AI кемшіліктеріне қарамастан, кодты генерациялау жүйелері қауіптілігі төмен тапсырмалар үшін пайдаланылғанда пайдалы болуы мүмкін. Сонымен қатар, зерттеуге қатысқан бағдарламашылардың осал немесе қауіпті кодты анықтауға көмектесетін қауіпсіздік мәселелерінде көп тәжірибесі жоқ, деді Сривастава.

Сондай-ақ, AI алгоритмдерін кодтау ұсыныстарын жақсарту үшін өзгертуге болады және өз жүйелерін әзірлейтін компаниялар өздерінің қауіпсіздік тәжірибелеріне сәйкес кодты жасайтын модель арқылы жақсырақ шешімдер ала алады. Зерттеу авторларының айтуынша, кодты генерациялау технологиясы «қызықты» даму болып табылады және көптеген адамдар оны пайдалануға құштар. Тек AI кемшіліктерін жоюдың дұрыс шешімдерін табуда әлі көп жұмыс істеу керек.

Сіз Украинаға орыс басқыншыларына қарсы күресуге көмектесе аласыз. Мұны істеудің ең жақсы жолы - Украина Қарулы Күштеріне қаражат беру Lifelife немесе ресми парақшасы арқылы NBU.

Сондай-ақ қызықты:

• Біз жасанды интеллект деп атайтындардың бәрі шын мәнінде жасанды интеллект емес. Мынаны білу керек
• Сарапшылар ескертеді: жақын арада жасанды интеллект интеллектіні ұрлайды