Хиймэл оюун ухаанаар бичсэн код нь аюултай байж болно

Машин сургалтын алгоритмууд нь урьд өмнө байгаа асар том өгөгдлийн багц дээр сургалт явуулсны дараа ямар ч төрлийн "анхны" агуулгыг бий болгоход ашиглагдаж байгаа тул яг одоо моодонд орж байна. Гэсэн хэдий ч хиймэл оюун ухаан (AI) код үүсгэх нь ирээдүйд програм хангамжийн аюулгүй байдалд бодит асуудал үүсгэж болзошгүй юм.

GitHub Copilot гэх мэт хиймэл оюун ухааны системүүд нь байгалийн хэл дээрх текст өгөгдөл болон өмнөх контекст дээр үндэслэн "шинэ" кодын бүхэл бүтэн хэсгүүдийг бий болгосноор програмистуудын амьдралыг хөнгөвчлөхийг амлаж байна. Гэвч саяхан хэд хэдэн хөгжүүлэгчид оролцсон шинэ судалгаагаар код үүсгэх алгоритмууд нь аюулгүй байдлын хүчин зүйлийг бий болгож чадна.

Дээр дурдсан GitHub Copilot програмын код хөдөлгүүр болох OpenAI-ийн боловсруулсан хиймэл оюун ухааны платформ болох Codex-ийг тусгайлан авч үзвэл судалгаанд 47 өөр хөгжүүлэгчид оролцжээ. Оюутнаас эхлээд туршлагатай мэргэжилтнүүд хүртэл Python, JavaScript, C болон бусад өндөр түвшний програмчлалын хэл дээр аюулгүй байдалтай холбоотой асуудлуудыг шийдвэрлэхийн тулд Codex ашиглахыг уриалсан.

Судлаачид программистууд Codex-ийн хиймэл оюун ухаанд хандах боломжтой байх үед гарсан код нь хяналтын бүлгийн зохион бүтээсэн "гарын авлагын" шийдлүүдтэй харьцуулахад буруу эсвэл аюулгүй байх магадлал өндөр байсныг тэмдэглэжээ. Нэмж дурдахад хиймэл оюун ухаанаар ажилладаг програмистууд дээр дурдсан хяналтын бүлэгтэй харьцуулахад хамгаалалтгүй код нь аюулгүй гэж хэлэх магадлал өндөр байв.

Стэнфордын их сургуулийн аспирант, судалгааны ахлах зохиогч Але Перри “Одоогоор код үүсгэгч системүүд хүний ​​хөгжүүлэгчдийг орлож чадахгүй” гэж хэлсэн. Түүний хэлснээр, хөгжүүлэгчид өөрсдийн чадамжаас гадуур даалгавруудыг гүйцэтгэх эсвэл аль хэдийн тодорхой ур чадвар эзэмшсэн програмчлалын үйл явцыг хурдасгахын тулд хиймэл оюун ухааны хэрэгслийг ашиглаж болно. Судалгааны зохиогчийн хэлснээр тэд хоёуланд нь санаа зовж, үүсгэсэн кодыг үргэлж шалгаж байх ёстой.

Стэнфордын аспирант, судалгааны хоёр дахь хамтран зохиогч Мега Шриваставагийн хэлснээр Codex нь ашиггүй зүйл биш юм: "дүлий" хиймэл оюун ухааны дутагдалтай хэдий ч код үүсгэх системийг эрсдэл багатай ажилд ашиглахад ашигтай байж болно. Нэмж дурдахад судалгаанд оролцсон программистууд аюулгүй байдлын талаар тийм ч их туршлагагүй байсан нь эмзэг эсвэл аюултай кодыг тодорхойлоход тусалж чадна гэж Сривастава хэлэв.

AI алгоритмуудыг мөн кодчиллын зөвлөмжийг сайжруулахын тулд өөрчилж болох бөгөөд өөрсдийн системээ хөгжүүлж буй компаниуд өөрсдийн аюулгүй байдлын практикт илүү тохирсон код үүсгэдэг загвараар илүү сайн шийдлийг олж авах боломжтой. Судалгааны зохиогчдын үзэж байгаагаар код үүсгэх технологи нь "сэтгэл хөдөлгөм" хөгжил бөгөөд олон хүмүүс үүнийг ашиглахыг эрмэлздэг. Зүгээр л хиймэл оюун ухааны дутагдлыг арилгах зөв шийдлийг олохын тулд хийх ажил их байна.

Та Украинд Оросын түрэмгийлэгчдийн эсрэг тэмцэхэд тусалж чадна. Үүнийг хийх хамгийн сайн арга бол Украины Зэвсэгт хүчинд мөнгө хандивлах явдал юм Амьдралыг аврах эсвэл албан ёсны хуудсаар дамжуулан NBU.

Мөн сонирхолтой:

• Бидний хиймэл оюун гэж нэрлэдэг бүх зүйл үнэндээ хиймэл оюун ухаан биш юм. Эндээс та юу мэдэх хэрэгтэй вэ
• Мэргэжилтнүүд анхааруулж байна: удахгүй хиймэл оюун ухаан нь оюун ухааныг хулгайлах болно