, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Các thuật toán học máy hiện đang rất thịnh hành, vì chúng được sử dụng để tạo bất kỳ loại nội dung "gốc" nào sau khi đào tạo trên các tập dữ liệu khổng lồ có sẵn. Tuy nhiên, mã tạo trí tuệ nhân tạo (AI) có thể đặt ra một vấn đề thực sự đối với bảo mật phần mềm trong tương lai.
Các hệ thống AI như GitHub Copilot hứa hẹn sẽ giúp cuộc sống của các lập trình viên trở nên dễ dàng hơn bằng cách tạo ra toàn bộ các đoạn mã "mới" dựa trên dữ liệu văn bản ngôn ngữ tự nhiên và ngữ cảnh có sẵn. Nhưng các thuật toán tạo mã cũng có thể gây ra một yếu tố không an toàn, như một nghiên cứu mới liên quan đến một số nhà phát triển đã tìm thấy gần đây.
Nhìn cụ thể vào Codex, nền tảng trí tuệ nhân tạo do OpenAI phát triển, cũng là công cụ mã đằng sau GitHub Copilot đã nói ở trên, 47 nhà phát triển khác nhau đã tham gia vào nghiên cứu. Từ sinh viên đến các chuyên gia có kinh nghiệm, họ đã được thử thách sử dụng Codex để giải quyết các vấn đề liên quan đến bảo mật bằng Python, JavaScript, C và các ngôn ngữ lập trình cấp cao khác.
Các nhà nghiên cứu lưu ý rằng khi các lập trình viên có quyền truy cập vào AI của Codex, mã kết quả có nhiều khả năng không chính xác hoặc không an toàn so với các giải pháp "thủ công" do một nhóm kiểm soát thiết kế. Ngoài ra, các lập trình viên sử dụng các giải pháp do AI cung cấp có nhiều khả năng nói rằng mã không được bảo vệ của họ an toàn hơn so với nhóm kiểm soát nói trên.
Ale Perry, một sinh viên tốt nghiệp tại Đại học Stanford và là đồng tác giả chính của nghiên cứu, nói rằng "các hệ thống tạo mã hiện không thể thay thế các nhà phát triển con người." Theo ông, các nhà phát triển có thể sử dụng các công cụ trí tuệ nhân tạo để thực hiện các nhiệm vụ ngoài khả năng của họ hoặc để tăng tốc quá trình lập trình mà họ đã có một số kỹ năng nhất định. Theo tác giả của nghiên cứu, họ nên quan tâm đến cả hai và luôn kiểm tra mã được tạo.
Theo Megha Srivastava, một sinh viên tốt nghiệp tại Stanford và là đồng tác giả thứ hai của nghiên cứu, Codex không phải là vô dụng: bất chấp những thiếu sót của AI "ngu ngốc", các hệ thống tạo mã có thể hữu ích khi được sử dụng cho các nhiệm vụ rủi ro thấp. Ngoài ra, các lập trình viên tham gia nghiên cứu không có nhiều kinh nghiệm về các vấn đề bảo mật, điều này có thể giúp xác định mã dễ bị tổn thương hoặc nguy hiểm, Srivastava nói.
Các thuật toán AI cũng có thể được điều chỉnh để cải thiện các đề xuất mã hóa và các công ty đang phát triển hệ thống của riêng họ có thể nhận được các giải pháp tốt hơn với mô hình tạo mã phù hợp hơn với các hoạt động bảo mật của riêng họ. Theo các tác giả của nghiên cứu, công nghệ tạo mã là một sự phát triển "thú vị" và nhiều người háo hức sử dụng nó. Chỉ là vẫn còn rất nhiều việc phải làm để tìm ra các giải pháp phù hợp để giải quyết những thiếu sót của AI.
Bạn có thể giúp Ukraine chiến đấu chống lại những kẻ xâm lược Nga. Cách tốt nhất để làm điều này là quyên góp quỹ cho Các lực lượng vũ trang của Ukraine thông qua Cuộc sống tiết kiệm hoặc thông qua trang chính thức NBU.
Cũng thú vị: