Các nhà lãnh đạo công nghệ và các nhà nghiên cứu AI nổi tiếng đã ký kết thư ngỏ, kêu gọi các phòng thí nghiệm AI và các công ty "ngay lập tức đình chỉ" công việc của họ.
Các bên ký kết, bao gồm Steve Wozniak và Elon Musk, đồng ý rằng các rủi ro đòi hỏi ít nhất sáu tháng gián đoạn việc sản xuất các công nghệ vượt ra ngoài phạm vi GPT-4. Điều này là để có được niềm vui và sự hài lòng từ các hệ thống AI hiện đang tồn tại, đồng thời cho phép mọi người thích nghi với chúng và thấy rằng chúng hữu ích.
Bức thư cho biết thêm rằng cần phải thận trọng và tính toán trước để đảm bảo an toàn cho các hệ thống AI, nhưng chúng đang bị bỏ qua. Tham chiếu đến GPT-4, một mô hình OpenAI mới có thể phản hồi bằng văn bản hoặc tin nhắn trực quan, xuất hiện khi các công ty chạy đua xây dựng các hệ thống trò chuyện tinh vi sử dụng công nghệ này. Ví dụ, Microsoft mới đây đã xác nhận rằng công cụ tìm kiếm Bing được cập nhật của họ đã chạy trên mẫu GPT-4 được hơn 7 tuần và Google mới đây đã chính thức giới thiệu Thi nhân – sở hữu hệ thống trí tuệ nhân tạo tổng quát dựa trên LaMDA.
Những lo ngại về AI đã tồn tại từ lâu, nhưng cuộc chạy đua áp dụng công nghệ tiên tiến nhất là điều hiển nhiên trí tuệ nhân tạo đầu tiên đã là đáng báo động. "Trong những tháng gần đây, các phòng thí nghiệm AI đã bị lôi kéo vào một cuộc chạy đua không kiểm soát để phát triển và triển khai những bộ óc kỹ thuật số ngày càng mạnh mẽ mà không ai - kể cả tác giả của chúng - có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy", bức thư viết.
Bức thư được xuất bản bởi tổ chức phi lợi nhuận Future of Life Institute (FLI), hoạt động nhằm giảm thiểu các rủi ro thảm khốc và tồn tại trên toàn cầu cũng như việc lạm dụng các công nghệ mới, đặc biệt là AI. Trước đây, Musk đã quyên góp 10 triệu USD cho FLI để nghiên cứu bảo mật AI. Ngoài ông và Wozniak, những người ký kết còn có một số nhà lãnh đạo thế giới trong lĩnh vực AI, chẳng hạn như Chủ tịch Trung tâm AI và Chính sách Kỹ thuật số Mark Rothenberg, nhà vật lý MIT và Chủ tịch FLI Max Tegmark, và tác giả Yuval Noah Harari.
Harari cũng là đồng tác giả của một op-ed trên tờ New York Times tuần trước cảnh báo về những rủi ro liên quan đến trí tuệ nhân tạo, trên đó những người sáng lập Trung tâm Công nghệ Nhân đạo và những người ký kết bức thư ngỏ khác, Tristan Harris và Aza Raskin, đã làm việc với anh ta.
Cuộc gọi được đưa ra sau một cuộc khảo sát vào năm ngoái với hơn 700 nhà nghiên cứu máy học, trong đó gần một nửa cho biết có khoảng 10% khả năng "hậu quả cực kỳ tồi tệ" từ AI, bao gồm cả sự tuyệt chủng của loài người. Khi được hỏi về bảo mật trong nghiên cứu AI, 68% số người được hỏi cho biết cần phải làm nhiều hơn hoặc nhiều hơn nữa.
Đọc thêm: