Thứ Năm, ngày 28 tháng 2024 năm XNUMX

máy tính để bàn v4.2.1

Root NationẤn ĐộTin tức CNTTThật bất ngờ! (KHÔNG). ChatGPT được sử dụng để tạo phần mềm độc hại

Thật bất ngờ! (KHÔNG). ChatGPT được sử dụng để tạo phần mềm độc hại

-

Chatbot phổ biến nhất thế giới, ChatGPT, đang được những kẻ tấn công sử dụng để tạo ra các dòng phần mềm độc hại mới.

Công ty an ninh mạng WithSecure đã xác nhận rằng họ đã tìm thấy các ví dụ về phần mềm độc hại do tác giả AI khét tiếng tạo ra trong tự nhiên. Điều khiến ChatGPT trở nên đặc biệt nguy hiểm là nó có thể tạo ra vô số biến thể của phần mềm độc hại, khiến chúng khó bị phát hiện.

Những kẻ tấn công có thể chỉ cần cung cấp cho ChatGPT các ví dụ về mã độc hiện có và hướng dẫn ChatGPT tạo ra các chủng mới dựa trên chúng, cho phép chúng duy trì phần mềm độc hại mà không tốn nhiều thời gian, công sức và kiến ​​thức như trước đây.

ChatGPT

Tin tức này xuất hiện trong bối cảnh có nhiều cuộc thảo luận về việc điều chỉnh AI để ngăn không cho nó bị sử dụng cho mục đích xấu. Khi ChatGPT trở nên cực kỳ phổ biến vào tháng XNUMX năm ngoái, không có quy tắc nào quản lý việc sử dụng nó và trong vòng một tháng, nó đã bị tấn công để viết các tệp và email độc hại.

Có một số biện pháp bảo vệ nhất định trong mô hình nhằm ngăn chặn các lời nhắc độc hại được thực thi, nhưng những kẻ tấn công có thể bỏ qua.

Juhani Hintikka, Giám đốc điều hành của WithSecure, nói với Infosecurity rằng các nhà bảo vệ an ninh mạng thường sử dụng trí thông minh nhân tạo để tìm và lọc phần mềm độc hại do các tác nhân đe dọa tạo thủ công.

Tuy nhiên, điều đó dường như đang thay đổi, với các công cụ AI mạnh mẽ như ChatGPT được cung cấp miễn phí. Các công cụ truy cập từ xa đã được sử dụng cho các mục đích bất hợp pháp và giờ đây điều tương tự cũng áp dụng cho trí tuệ nhân tạo.

Tim West, người đứng đầu bộ phận tình báo về mối đe dọa tại WithSecure, nói thêm rằng "ChatGPT sẽ hỗ trợ kỹ thuật phần mềm, cả theo cách tốt và xấu, đồng thời giúp giảm bớt rào cản gia nhập đối với các nhà phát triển phần mềm độc hại."

Theo Hintikka, những email lừa đảo mà ChatGPT có thể tạo ra thường được mọi người chú ý và khi LLM trở nên tiên tiến hơn, việc ngăn chặn những trò lừa đảo như vậy trong tương lai gần có thể trở nên khó khăn hơn.

ChatGPT

Hơn nữa, khi tỷ lệ thành công của các cuộc tấn công của kẻ tấn công tăng lên với tốc độ đáng báo động, những kẻ tấn công đang tái đầu tư và trở nên có tổ chức hơn, mở rộng hoạt động thông qua thuê ngoài và hiểu sâu hơn về trí tuệ nhân tạo để thực hiện các cuộc tấn công thành công hơn.

Hintikka kết luận rằng, khi nhìn vào bối cảnh tương lai của an ninh mạng, "nó sẽ là một trò chơi giữa AI tốt và AI xấu."

Đọc thêm:

Dzherelotechradar
Đăng ký
Thông báo về
khách sạn

0 Nhận xét
Bài đánh giá được nhúng
Xem tất cả các bình luận
Các bài báo khác
Đăng ký để cập nhật

Những ý kiến ​​gần đây

Phổ biến bây giờ
0
Chúng tôi yêu thích những suy nghĩ của bạn, xin vui lòng bình luận.x