, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Алгоритмҳои омӯзиши мошинсозӣ ҳоло ҳама ғазаб доранд, зеро онҳо барои эҷоди ҳама гуна мундариҷаи "аслӣ" пас аз омӯзиш дар маҷмӯаҳои азими қаблан мавҷудбуда истифода мешаванд. Бо вуҷуди ин, коди тавлидкунандаи зеҳни сунъӣ (AI) метавонад дар оянда барои амнияти нармафзор мушкилоти воқеӣ эҷод кунад.
Системаҳои AI ба монанди GitHub Copilot ваъда медиҳанд, ки ҳаёти барномасозонро тавассути эҷоди қисмҳои пурраи коди "нав" дар асоси маълумоти матнии табиӣ ва контексти қаблан мавҷуда осонтар мекунанд. Аммо алгоритмҳои тавлиди кодҳо инчунин метавонанд омили ноамнӣ ҷорӣ кунанд, зеро як таҳқиқоти нав бо ҷалби чанд таҳиягарон ба наздикӣ пайдо шуд.
Махсусан ба Codex, платформаи зеҳни сунъӣ, ки аз ҷониби OpenAI таҳия шудааст, ки инчунин муҳаррики рамзи паси GitHub Copilot дар боло зикршуда мебошад, дар таҳқиқот 47 таҳиягарони гуногун иштирок карданд. Аз донишҷӯён то мутахассисони ботаҷриба, онҳо маҷбур шуданд, ки Codex-ро барои ҳалли мушкилоти марбут ба амният дар Python, JavaScript, C ва дигар забонҳои барномасозии сатҳи баланд истифода баранд.
Муҳаққиқон қайд карданд, ки вақте барномасозон ба AI-и Codex дастрасӣ пайдо карданд, коди натиҷавӣ дар муқоиса бо қарорҳои "дастӣ", ки аз ҷониби гурӯҳи назоратӣ таҳия шудааст, эҳтимоли нодуруст ё ноамнӣ буд. Илова бар ин, барномасозоне, ки бо қарорҳои сунъии сунъӣ кор мекунанд, дар муқоиса бо гурӯҳи назоратии дар боло зикршуда эҳтимоли бештар мегӯянд, ки рамзи муҳофизатнашудаи онҳо бехатар аст.
Але Перрӣ, донишҷӯи аспиранти Донишгоҳи Стэнфорд ва ҳаммуаллифи пешбари ин таҳқиқот гуфт, ки "системаҳои тавлидкунандаи код дар ҳоли ҳозир ҷойгузини таҳиягарони инсониро гирифта наметавонанд." Ба гуфтаи ӯ, таҳиягарон метавонанд аз абзорҳои зеҳни сунъӣ барои иҷрои вазифаҳои берун аз салоҳияти худ ва ё суръат бахшидан ба раванди барномасозӣ, ки аллакай малакаҳои муайян доранд, истифода баранд. Ба гуфтаи муаллифи тадқиқот, онҳо бояд дар бораи ҳарду нигарон бошанд ва ҳамеша рамзи тавлидшударо тафтиш кунанд.
Ба гуфтаи Мега Сривастава, донишҷӯи аспиранти Стэнфорд ва ҳаммуаллифи дуввуми таҳқиқот, Codex бефоида нест: сарфи назар аз камбудиҳои AI-и "гунг", системаҳои тавлиди код ҳангоми истифода барои вазифаҳои камхатар муфид буда метавонанд. Илова бар ин, барномасозоне, ки дар таҳқиқот ширкат доштанд, дар масъалаҳои амният таҷрибаи зиёд надоштанд, ки метавонад дар муайян кардани коди осебпазир ё хатарнок кӯмак кунад, гуфт Сривастава.
Алгоритмҳои AI инчунин метавонанд барои беҳтар кардани пешниҳодҳои рамзгузорӣ тағир дода шаванд ва ширкатҳое, ки системаҳои худро таҳия мекунанд, метавонанд бо моделе, ки кодро ба амалияи амнияти худ мувофиқтар тавлид мекунанд, ҳалли беҳтаре ба даст оранд. Ба гуфтаи муаллифони пажӯҳиш, технологияи тавлиди код як таҳаввулоти "ҳаяҷоновар" аст ва бисёриҳо барои истифода аз он майл доранд. Факат он аст, ки дар рохи чустучуи роххои дурусти рафъи камбудихои ИИ кор хануз бисьёр аст.
Шумо метавонед ба Украина дар мубориза бар зидди истилогарони рус кӯмак кунед. Роҳи беҳтарини иҷрои ин хайрия маблағ ба Қувваҳои Мусаллаҳи Украина мебошад Savelife ё тавассути саҳифаи расмӣ NBU.
Инчунин ҷолиб: