Cümə, 29 mart 2024-cü il

masaüstü v4.2.1

Root NationxəbərlərİT xəbərləriSüni intellekt tərəfindən yazılmış kod təhlükəli ola bilər

Süni intellekt tərəfindən yazılmış kod təhlükəli ola bilər

-

Maşın öyrənmə alqoritmləri hazırda bütün qəzəbdədir, çünki onlar əvvəlcədən mövcud olan nəhəng məlumat dəstləri üzərində təlimdən sonra istənilən növ "orijinal" məzmun yaratmaq üçün istifadə olunur. Bununla belə, süni intellekt (AI) yaradan kod gələcəkdə proqram təminatının təhlükəsizliyi üçün əsl problem yarada bilər.

GitHub Copilot kimi süni intellekt sistemləri təbii dildəki mətn məlumatlarına və əvvəlcədən mövcud kontekstə əsaslanan "yeni" kodun bütün hissələrini yaratmaqla proqramçıların həyatını asanlaşdıracağını vəd edir. Lakin kod yaratma alqoritmləri həm də etibarsızlıq faktorunu təqdim edə bilər, çünki bu yaxınlarda bir neçə tərtibatçının iştirak etdiyi yeni bir araşdırma tapıldı.

Xüsusilə yuxarıda qeyd olunan GitHub Copilot-un arxasındakı kod mühərriki olan OpenAI tərəfindən hazırlanmış süni intellekt platforması olan Codex-ə baxsaq, tədqiqatda 47 fərqli tərtibatçı iştirak edib. Tələbələrdən tutmuş təcrübəli peşəkarlara qədər onlara Python, JavaScript, C və digər yüksək səviyyəli proqramlaşdırma dillərində təhlükəsizliklə bağlı problemləri həll etmək üçün Codex-dən istifadə etmək tələb olunur.

Süni intellekt tərəfindən yazılmış kod mahiyyət etibarilə təhlükəli ola bilər

Tədqiqatçılar qeyd ediblər ki, proqramçılar Codex-in süni intellektinə çıxış əldə etdikdə, nəticədə alınan kodun nəzarət qrupu tərəfindən hazırlanmış “əl” həllərlə müqayisədə səhv və ya etibarsız olma ehtimalı daha yüksək olub. Bundan əlavə, süni intellektlə işləyən həlləri olan proqramçılar, yuxarıda qeyd olunan nəzarət qrupu ilə müqayisədə qorunmayan kodlarının təhlükəsiz olduğunu söyləmək ehtimalı daha yüksək idi.

Stenford Universitetinin aspirantı və tədqiqatın aparıcı həmmüəllifi Ale Perry bildirib ki, “kod yaradan sistemlər hazırda insan tərtibatçılarını əvəz edə bilməz”. Onun sözlərinə görə, tərtibatçılar öz səlahiyyətlərindən kənar tapşırıqları yerinə yetirmək və ya artıq müəyyən bacarıqlara malik olduqları proqramlaşdırma prosesini sürətləndirmək üçün süni intellekt alətlərindən istifadə edə bilərlər. Tədqiqat müəllifinin fikrincə, onlar hər ikisindən narahat olmalı və yaradılan kodu həmişə yoxlamalıdırlar.

Stanford Universitetinin aspirantı və tədqiqatın ikinci həmmüəllifi Meqa Srivastavanın fikrincə, Codex faydasız deyil: “lal” süni intellektin çatışmazlıqlarına baxmayaraq, kod yaratma sistemləri aşağı riskli tapşırıqlar üçün istifadə edildikdə faydalı ola bilər. Bundan əlavə, tədqiqatda iştirak edən proqramçılar həssas və ya təhlükəli kodu müəyyən etməyə kömək edə biləcək təhlükəsizlik məsələlərində çox təcrübəyə malik deyildilər, Şrivastava bildirib.

AI tərəfindən yazılmış kod mahiyyət etibarilə təhlükəli ola bilər

Süni intellekt alqoritmləri kodlaşdırma təkliflərini təkmilləşdirmək üçün də düzəldilə bilər və öz sistemlərini inkişaf etdirən şirkətlər öz təhlükəsizlik təcrübələrinə daha uyğun kod yaradan modellə daha yaxşı həllər əldə edə bilərlər. Tədqiqatın müəlliflərinin fikrincə, kod yaratma texnologiyası "həyəcanlı" inkişafdır və bir çox insan bundan istifadə etmək arzusundadır. Sadəcə olaraq, süni intellektin çatışmazlıqlarını aradan qaldırmaq üçün düzgün həll yollarının tapılması istiqamətində hələ çox iş görülməlidir.

Siz Ukraynaya rus işğalçılarına qarşı mübarizədə kömək edə bilərsiniz. Bunun ən yaxşı yolu Ukrayna Silahlı Qüvvələrinə pul köçürməkdir Savelife və ya rəsmi səhifə vasitəsilə NBU.

Həmçinin maraqlıdır:

Jerelotechspot
Qeydiyyatdan keçmək
Haqqında məlumat verin
qonaq

0 Şərhlər
Daxil edilmiş rəylər
Bütün şərhlərə baxın
Digər məqalələr
Yeniliklər üçün abunə olun

Son şərhlər

İndi populyardır
0
Fikirlərinizi bəyənirik, şərh yazın.x