Bí ẩn Dự án Q* từ OpenAI đang gây lo ngại cho các chuyên gia. Anh ta thực sự có thể nguy hiểm cho nhân loại? Những gì được biết về anh ta? Sau khi Sam Altman ban đầu bị sa thải vào tuần trước và anh ấy cùng nhóm gần như đã chuyển sang Microsoft, sau đó anh ấy đã quay trở lại nơi làm việc của mình (về việc đó chúng tôi đã viết ở đây), OpenAI lại xuất hiện trên tin tức. Lần này vì điều mà một số nhà nghiên cứu gọi là mối đe dọa có thể xảy ra đối với nhân loại. Vâng, bạn đọc đúng rồi, một mối đe dọa đối với nhân loại.
Biến động thực sự trong thế giới công nghệ là do Dự án Q* - một dự án chưa được tiết lộ về trí tuệ nhân tạo nói chung (AGI) - phát âm là Q-Star. Mặc dù dự án này mới ở giai đoạn đầu nhưng nó được coi là bước đột phá thực sự trong quá trình phát triển AGI. Tuy nhiên, một số người coi nó là mối nguy hiểm cho nhân loại.
Một dự án trí tuệ nhân tạo bí mật được phát triển bởi phòng thí nghiệm trí tuệ nhân tạo nổi tiếng OpenAI có tiềm năng cách mạng hóa công nghệ và xã hội nói chung. Nhưng nó cũng đặt ra một số câu hỏi đạo đức về những rủi ro. Khi thông tin chi tiết về khả năng đáng kinh ngạc của Dự án Q* xuất hiện, ngày càng có nhiều suy đoán về ý nghĩa của nó đối với tương lai của nhân loại.
Cũng thú vị: Lịch sử của OpenAI: Nó là gì và điều gì đang chờ đợi công ty ở phía trước
Trí tuệ tổng hợp nhân tạo (AGI) là gì?
Để hiểu sự cường điệu xung quanh Dự án Q* (Q-Star), trước tiên chúng ta hãy cố gắng hiểu khái niệm Trí tuệ nhân tạo chung (AGI) là gì. Trong khi các hệ thống trí tuệ nhân tạo hiện tại vượt trội ở những nhiệm vụ cụ thể, hẹp như chơi cờ hoặc tạo ra hình ảnh, thì trí tuệ nhân tạo nói chung đề cập đến những cỗ máy có thể học và suy nghĩ ở cấp độ con người trong nhiều lĩnh vực. Tức là các em có thể học như những đứa trẻ nhỏ ở trường, chẳng hạn như những kiến thức cơ bản về toán, hóa học, sinh học, v.v.
Trí tuệ nhân tạo tổng quát (AGI) là một loại trí tuệ máy móc có thể bắt chước trí thông minh hoặc hành vi của con người theo giả thuyết, với khả năng học hỏi và áp dụng tiềm năng đó để giải quyết nhiều vấn đề khác nhau. AGI còn được gọi là trí tuệ nhân tạo mạnh mẽ, trí tuệ nhân tạo đầy đủ hoặc trí tuệ nhân tạo cấp độ con người. AI thông thường khác với AI yếu hoặc hẹp, chỉ có khả năng thực hiện các nhiệm vụ cụ thể hoặc chuyên biệt trong các thông số nhất định. ZHI sẽ có thể giải quyết độc lập nhiều vấn đề phức tạp khác nhau từ các lĩnh vực kiến thức khác nhau.
Tạo ra trí tuệ nhân tạo là trọng tâm chính trong nghiên cứu trí tuệ nhân tạo của các công ty như DeepMind và Anthropic. CSI là một chủ đề rất phổ biến trong văn học khoa học viễn tưởng và có thể định hình các nghiên cứu trong tương lai. Một số người cho rằng có thể tạo ra một UCI trong vòng vài năm hoặc nhiều thập kỷ, trong khi những người khác cho rằng có thể mất một thế kỷ hoặc hơn. Nhưng có những người tin rằng điều này sẽ không bao giờ đạt được. Một số người đã nhìn thấy sự khởi đầu của URI trong GPT-3, nhưng dường như nó vẫn chưa đáp ứng được các tiêu chí cơ bản.
Việc tạo ra trí tuệ nhân tạo tổng hợp (AGI) được các nhà nghiên cứu coi là chén thánh của trí tuệ nhân tạo, một khả năng lý thuyết đã thu hút trí tưởng tượng của họ từ lâu. Vì vậy, sự xuất hiện của một dự án như OpenAI Project Q* đã gây được tiếng vang lớn trong thế giới nghiên cứu thuật toán trí tuệ nhân tạo. Mặc dù mọi người đều hiểu rằng đây chỉ là những bước đầu tiên, gần như mù quáng, đến một thế giới mà trí tuệ nhân tạo sẽ có khả năng tương đương con người, hoặc thậm chí cao hơn.
Cũng thú vị: Tất cả về Microsoft Phi công phụ: tương lai hay sai đường?
Dự án Q* là gì?
Project Q* không phải là một thuật toán điển hình vì nó là mô hình trí tuệ nhân tạo đang ngày càng tiệm cận với mô hình trí tuệ nhân tạo tổng hợp (AGI). Điều này có nghĩa là, không giống như ChatGPT, Project Q* thể hiện kỹ năng tư duy và nhận thức tốt hơn so với các thuật toán khác. ChatGPT hiện trả lời các truy vấn dựa trên một lượng lớn tài liệu thực tế, nhưng với AGI, mô hình AI sẽ học cách suy luận cũng như khả năng tự suy nghĩ và hiểu biết. Người ta đã biết rằng Dự án Q* có khả năng giải các bài toán đơn giản không có trong tài liệu đào tạo của nó. Về vấn đề này, một số nhà nghiên cứu nhận thấy một bước tiến quan trọng trong việc tạo ra trí tuệ nhân tạo nói chung (AGI). OpenAI định nghĩa AGI là hệ thống trí tuệ nhân tạo thông minh hơn con người.
Sự phát triển của Dự án Q* do nhà khoa học trưởng của OpenAI Ilya Sutzkever quản lý và cơ sở của nó được chứng minh bởi các nhà nghiên cứu Jakub Pakhotsky và Shimon Sidor.
Khả năng một thuật toán có thể tự giải quyết các vấn đề toán học, ngay cả khi những vấn đề này không nằm trong tập dữ liệu huấn luyện, được coi là bước đột phá trong lĩnh vực trí tuệ nhân tạo. Những bất đồng trong nhóm liên quan đến dự án này có liên quan đến việc Giám đốc điều hành OpenAI Sam Altman tạm thời bị sa thải. Được biết, trước khi Altman bị sa thải, một nhóm nhà nghiên cứu của công ty đã gửi thư tới ban giám đốc cảnh báo về việc phát hiện ra AI có thể gây ra mối đe dọa cho nhân loại. Bức thư đó, được cho là đã thảo luận về thuật toán Project Q*, được coi là một trong những yếu tố dẫn đến việc sa thải Altman. Tuy nhiên, khả năng của Dự án Q* và những rủi ro tiềm ẩn mà nó có thể gây ra vẫn chưa được hiểu đầy đủ vì chưa rõ chi tiết. Không có gì đã được phát hành cho công chúng.
Về cốt lõi, Project Q* là một phương pháp học tăng cường không có mô hình, khác với các mô hình truyền thống do không yêu cầu kiến thức trước về môi trường. Thay vào đó, nó học hỏi thông qua kinh nghiệm, điều chỉnh hành động dựa trên phần thưởng và hình phạt. Các chuyên gia kỹ thuật tin rằng Project Q* sẽ có thể đạt được những khả năng vượt trội nhờ có được những khả năng tương tự như khả năng nhận thức của con người.
Tuy nhiên, chính tính năng này là điểm ấn tượng nhất trong mô hình trí tuệ nhân tạo mới khiến các nhà nghiên cứu và phê bình lo lắng, đồng thời làm dấy lên lo ngại về các ứng dụng trong thế giới thực của công nghệ và những rủi ro tiềm ẩn liên quan. Các nhà khoa học và nhà nghiên cứu sợ hãi điều gì? Hãy tìm ra nó.
Cũng thú vị: Cách cập nhật các thiết bị trong nhà của bạn để hỗ trợ Wi-Fi 6
Họ sợ những điều chưa biết
Con người luôn sợ những điều chưa biết, những điều không thể biết được. Đây là bản chất của con người, một nét đặc trưng trong tính cách và lối sống của chúng ta.
Thế giới công nghệ biết đến Project Q* vào tháng 2023 năm sau Reuters báo cáo về một bức thư nội bộ được viết bởi các nhà nghiên cứu OpenAI có liên quan. Nội dung của bức thư rất mơ hồ nhưng được cho là đã phân tích nghiêm túc khả năng của Dự án Q*. Như tôi đã đề cập ở trên, thậm chí còn có suy đoán rằng chính bức thư này đã khiến Sam Altman phải từ chức.
Khám phá bùng nổ này đã làm nảy sinh nhiều giả thuyết khác nhau liên quan đến bản chất của Dự án Q*. Các nhà khoa học cho rằng đây có thể là một mô hình ngôn ngữ tự nhiên mang tính cách mạng cho AI. Một loại nhà phát minh ra các thuật toán mới, người sẽ tạo ra chúng cho các dạng AI khác hoặc thứ gì đó hoàn toàn khác trong lĩnh vực này.
Những bình luận khiêu khích của Altman về trí tuệ nhân tạo nói chung với tư cách là "nhân viên bình thường" đã làm dấy lên mối lo ngại về an ninh công việc và sự mở rộng không thể ngăn cản được của tầm ảnh hưởng của AI. Thuật toán bí ẩn này được xác định là một cột mốc quan trọng trong sự phát triển của Trí tuệ nhân tạo tổng hợp (AGI). Tuy nhiên, ai cũng hiểu rằng cột mốc này rất đắt giá. Và bây giờ vấn đề không phải là tiền. Mức độ kỹ năng nhận thức được hứa hẹn bởi mô hình AI mới mang theo sự không chắc chắn. Các nhà khoa học của OpenAI hứa hẹn rằng AI sẽ có tư duy ngang tầm con người. Và điều này có nghĩa là chúng ta không thể biết nhiều thứ và đoán trước được hậu quả. Và càng có nhiều điều chưa biết thì càng khó chuẩn bị để kiểm soát hoặc khắc phục nó. Tức là thuật toán mới có khả năng tự hoàn thiện và phát triển. Chúng ta đã thấy điều này ở đâu đó rồi...
Cũng thú vị: Windows 12: Hệ điều hành mới sẽ là gì?
Thông tin chi tiết đáng kinh ngạc về khả năng của Project Q*
Khi nhiều thông tin bắt đầu xuất hiện, nó đã gây sốc cho nhiều nhà nghiên cứu. Những dấu hiệu ban đầu cho thấy Project Q* có năng khiếu toán học đáng kinh ngạc. Không giống như một chiếc máy tính thực hiện các phép tính cơ học, Project Q* được cho là có thể sử dụng logic và lý luận để giải các bài toán phức tạp. Khả năng khái quát hóa toán học này gợi ý về sự phát triển của một trí thông minh rộng rãi.
Việc đào tạo tự động cho Project Q* mà không có bộ dữ liệu cụ thể dùng để đào tạo các AI điển hình cũng sẽ là một bước tiến lớn. Vẫn chưa biết liệu Project Q* có thành thạo bất kỳ kỹ năng nào khác hay không. Nhưng bản thân khả năng toán học của anh ấy đáng kinh ngạc đến mức khiến ngay cả những nhà nghiên cứu giàu kinh nghiệm cũng bối rối.
Đọc thêm: Dự án bộ não con người: Nỗ lực bắt chước bộ não con người
Con đường thống trị của Project Q*?
Có cả kịch bản lạc quan và bi quan trong vấn đề này. Những người lạc quan sẽ cho rằng Dự án Q* có thể là tia sáng dẫn đến sự đột phá về công nghệ. Khi hệ thống tự cải thiện đệ quy, trí thông minh siêu nhiên của nó có thể giúp giải quyết một số vấn đề quan trọng nhất của nhân loại, từ biến đổi khí hậu đến kiểm soát dịch bệnh. Project Q* có thể tự động hóa công việc nhàm chán và giải phóng thời gian rảnh của chúng ta cho các hoạt động khác.
Mặc dù có nhiều lựa chọn bi quan hơn. Đôi khi, chúng khá hợp lý và có ý nghĩa nhất định.
Mất việc làm
Những thay đổi nhanh chóng trong sự phát triển của công nghệ có thể vượt xa khả năng thích ứng cá nhân của con người. Điều này sẽ dẫn đến việc mất đi một hoặc nhiều thế hệ không thể tiếp thu được những kỹ năng hoặc kiến thức cần thiết để thích ứng với thực tế mới. Nghĩa là, điều này có nghĩa là sẽ có ít người có thể giữ được việc làm của họ hơn. Thay vào đó, nó sẽ được thực hiện bởi máy móc, hệ thống tự động và robot. Tuy nhiên, câu trả lời không quá rõ ràng khi nói đến các chuyên gia có trình độ. Ngoài ra, các ngành nghề mới liên quan cụ thể đến phát triển thuật toán trí tuệ nhân tạo có thể xuất hiện. Nhưng vẫn có những rủi ro và nhân loại không có quyền bỏ qua chúng.
Sự nguy hiểm của quyền lực không được kiểm soát
Nếu một AI mạnh mẽ như Project Q* rơi vào tay những kẻ có ý định bất chính, nó sẽ gây ra hậu quả thảm khốc cho nhân loại. Ngay cả khi không có mục đích xấu tiềm tàng, cấp độ ra quyết định của Dự án Q* vẫn có thể dẫn đến những kết quả có hại, điều này nhấn mạnh tầm quan trọng đặc biệt của việc đánh giá cẩn thận ứng dụng của nó.
Nếu Project Q* được tối ưu hóa kém cho nhu cầu của con người, nó có thể gây hại nhờ khả năng tối đa hóa một số chỉ số tùy ý. Hoặc nó có thể có khía cạnh chính trị, chẳng hạn như được sử dụng để giám sát hoặc đàn áp nhà nước. Một cuộc tranh luận mở xung quanh việc phân tích tác động của Dự án Q* sẽ giúp xác định các kịch bản có thể xảy ra cho sự phát triển của ZHI.
Có phải chúng ta đang tham gia cuộc đấu "Người vs. Máy" không?
Hollywood đã tạo ra nhiều kịch bản về cuộc đối đầu như vậy trong các bộ phim của mình. Tất cả chúng ta đều nhớ SkyNet nổi tiếng và hậu quả của một khám phá như vậy. Có lẽ các nhà nghiên cứu OpenAI nên xem lại bộ phim này?
Nhân loại cần chấp nhận những tín hiệu, thách thức và chuẩn bị cho những gì có thể xảy ra. Một mô hình trí tuệ nhân tạo có khả năng suy nghĩ như con người một ngày nào đó có thể trở thành kẻ thù của chúng ta. Nhiều người cho rằng trong tương lai các nhà khoa học sẽ biết chính xác cách kiểm soát tình hình. Nhưng khi nói đến máy móc, bạn không thể loại trừ hoàn toàn khả năng chúng sẽ cố gắng chiếm lấy con người.
Cũng thú vị: Không phải mọi thứ chúng ta gọi là AI đều thực sự là trí tuệ nhân tạo. Đây là những gì bạn cần biết
Tại sao OpenAI im lặng?
Bất chấp sự quan tâm điên cuồng của công chúng đối với Project Q*, ban quản lý của OpenAI vẫn giữ im lặng về các chi tiết cụ thể của thuật toán. Nhưng vụ rò rỉ nội bộ cho thấy căng thẳng ngày càng tăng trong phòng thí nghiệm về các ưu tiên và tính cởi mở của các phát triển. Trong khi nhiều người trong cuộc của OpenAI ủng hộ việc tạo ra Dự án Q*, các nhà phê bình cho rằng tính minh bạch đã lùi bước trong việc thúc đẩy tiến bộ khoa học bằng bất cứ giá nào. Và một số nhà nghiên cứu lo ngại rằng sức mạnh đáng kinh ngạc được trao cho những hệ thống có mục tiêu không nhất thiết trùng với các giá trị và đạo đức của con người. Các nhà nghiên cứu này tin rằng các cuộc tranh luận xung quanh việc giám sát và trách nhiệm giải trình đã trở nên im lặng một cách nguy hiểm. Họ yêu cầu công khai và chi tiết hơn.
Với tư cách là người tạo ra Dự án Q*, OpenAI phải hiểu rằng họ có một công nghệ có thể mở rộng đáng kể khả năng phát triển của xã hội hoặc phá hủy nó một cách tàn nhẫn. Những đổi mới quan trọng như vậy xứng đáng được minh bạch hơn nhiều để xây dựng niềm tin của công chúng. Bất kỳ nhà tiên đoán nào của thời đại máy móc đều phải cân nhắc cẩn thận giữa rủi ro bên cạnh lợi ích. Và các nhà phát triển của Project Q* cần thể hiện đủ sự khôn ngoan và quan tâm để đưa xã hội bước vào một kỷ nguyên mới của trí tuệ nhân tạo nói chung một cách an toàn có thể đến sớm hơn chúng ta từng tưởng tượng.
Để trí tuệ nhân tạo nói chung hữu ích và an toàn cho nhân loại, nó phải được đảm bảo rằng nó hoạt động an toàn, có đạo đức và phù hợp với các giá trị và mục tiêu của nhân loại. Điều này đòi hỏi phải phát triển và thực hiện các hành vi, tiêu chuẩn, quy tắc và giao thức quản lý phù hợp nhằm kiểm soát và hạn chế các hành động và hành vi của CSI. Ngoài ra, các mối đe dọa và rủi ro tiềm ẩn liên quan đến lạm dụng, tai nạn, không tương thích, thao túng và xung đột có thể dẫn đến sự hủy diệt của nhân loại phải được loại bỏ. Trong khi đó, các nhà đầu tư và Microsoft háo hức chờ đợi một sản phẩm bán ra thị trường có thể tạo ra lợi nhuận, điều này chắc chắn mâu thuẫn với nhu cầu hành động có trách nhiệm. Hãy hy vọng lẽ thường sẽ thắng thế.
Đọc thêm: