신비한 프로젝트 Q* OpenAI의 문제는 전문가들 사이에서 우려를 불러일으키고 있습니다. 그는 정말 인류에게 위험할 수 있을까? 그에 대해 알려진 것은 무엇입니까? 지난주 Sam Altman이 처음으로 해고된 후 그와 팀은 거의 Microsoft, 그 후 그는 직장으로 돌아왔습니다. 우리는 여기에 썼다), OpenAI가 다시 뉴스에 등장했습니다. 이번에는 일부 연구자들이 인류에 대한 위협이 될 수 있다고 부르는 것 때문입니다. 그렇습니다. 인류에 대한 위협이라는 말씀이 맞습니다.
기술 세계의 진정한 격변은 일반 인공 지능(AGI)의 비공개 프로젝트인 프로젝트 Q*(Q-Star로 발음)로 인해 발생했습니다. 이 프로젝트는 초기 단계이지만 AGI 개발에 있어서는 획기적인 것으로 평가됩니다. 그러나 일부에서는 이를 인류에 대한 위험으로 간주합니다.
유명한 인공지능 연구소 OpenAI가 개발한 비밀 인공지능 프로젝트는 기술과 사회 전반에 혁명을 일으킬 수 있는 잠재력을 가지고 있습니다. 그러나 이는 위험에 대한 몇 가지 윤리적 질문을 제기하기도 합니다. 프로젝트 Q*의 놀라운 기능에 대한 세부 정보가 공개되면서 이것이 인류의 미래에 어떤 의미를 가질 수 있는지에 대한 추측이 점점 더 많아지고 있습니다.
또한 흥미로운: OpenAI의 역사: 그것은 무엇이었으며 회사의 미래는 무엇입니까?
일반 인공지능(AGI)이란 무엇입니까?
프로젝트 Q*(Q-Star)를 둘러싼 과대광고를 이해하기 위해 먼저 AGI(Artificial General Intelligence)의 개념이 무엇인지 이해해 봅시다. 현재 AI 시스템은 체스를 두거나 이미지를 생성하는 등 좁고 구체적인 작업에 탁월한 반면, 일반 AI는 다양한 영역에서 인간 수준에서 학습하고 생각할 수 있는 기계를 의미합니다. 즉, 수학, 화학, 생물학 등의 기초를 학교에서 어린아이처럼 공부할 수 있습니다.
일반 인공 지능(AGI)은 인간의 지능이나 행동을 가정적으로 모방할 수 있는 기계 지능의 한 유형으로, 다양한 문제를 해결하기 위해 그 잠재력을 학습하고 적용할 수 있는 능력을 갖추고 있습니다. AGI는 강력인공지능, 완전인공지능, 인간수준의 인공지능이라고도 불린다. 일반 AI는 주어진 매개변수 내에서 구체적이거나 전문화된 작업만 수행할 수 있는 약하거나 좁은 AI와 다릅니다. ZHI는 다양한 지식 분야에서 다양하고 복잡한 문제를 독립적으로 해결할 수 있습니다.
딥마인드(DeepMind), 앤트로픽(Anthropic) 등 인공지능 연구의 주요 초점은 인공지능을 만드는 것이다. CSI는 SF 문학에서 매우 인기 있는 주제이며 향후 연구에 영향을 미칠 수 있습니다. 어떤 사람들은 UCI를 만드는 것이 몇 년 또는 수십 년 안에 가능하다고 주장하는 반면, 다른 사람들은 3년 이상이 걸릴 수 있다고 주장합니다. 그러나 이것이 결코 달성되지 않을 것이라고 믿는 사람들이 있습니다. 일부에서는 GPT-에서 URI의 시작을 보았지만 여전히 기본 기준을 충족하기에는 거리가 먼 것 같습니다.
인공 일반 지능(AGI)의 생성은 연구자들의 상상력을 오랫동안 사로잡았던 이론적 가능성인 인공 지능의 성배로 간주됩니다. 따라서 OpenAI Project Q*와 같은 프로젝트의 등장은 인공지능 알고리즘 연구계에 큰 반향을 일으켰습니다. 모든 사람들은 이것이 인공지능이 인간과 동일하거나 그보다 더 높은 능력을 갖게 될 세상을 향한 거의 맹목적인 첫 번째 단계에 불과하다는 것을 이해합니다.
또한 흥미로운: 모든 약 Microsoft 부조종사: 미래인가 아니면 잘못된 길인가?
프로젝트 Q*란 무엇입니까?
프로젝트 Q*는 점점 인공일반지능(AGI) 모델에 접근하고 있는 인공지능 모델이기 때문에 일반적인 알고리즘은 아닙니다. 즉, ChatGPT와 달리 프로젝트 Q*는 다른 알고리즘에 비해 더 나은 사고력과 인지 능력을 보여줍니다. ChatGPT는 현재 방대한 양의 사실 자료를 기반으로 쿼리에 응답하지만 AGI를 사용하면 AI 모델이 추론과 스스로 생각하고 이해하는 능력을 학습하게 됩니다. 프로젝트 Q*가 교육 자료에 포함되지 않은 간단한 수학 문제를 풀 수 있다는 것은 이미 알려져 있습니다. 여기에서 일부 연구자들은 일반 인공 지능(AGI) 생성을 향한 중요한 진전을 봅니다. OpenAI는 AGI를 인간보다 똑똑한 인공지능 시스템으로 정의합니다.
프로젝트 Q*의 개발은 OpenAI 수석 과학자 Ilya Sutzkever가 관리하며, 그 기반은 연구원 Jakub Pakhotsky와 Shimon Sidor가 입증했습니다.
수학적 문제를 자체적으로 해결하는 알고리즘의 능력은 이러한 문제가 훈련 데이터 세트의 일부가 아니더라도 인공 지능 분야의 획기적인 것으로 간주됩니다. 이 프로젝트와 관련하여 팀 내 의견 불일치는 OpenAI CEO Sam Altman의 임시 해임과 관련이 있습니다. 알트만이 해고되기 전 회사 연구진들은 인류에 위협이 될 수 있는 AI의 발견을 경고하는 서한을 이사회에 보낸 것으로 알려졌다. 프로젝트 Q* 알고리즘을 논의한 것으로 알려진 그 편지는 알트만이 해고된 요인 중 하나로 인용되었습니다. 그러나 프로젝트 Q*의 기능과 이로 인해 발생할 수 있는 잠재적 위험은 세부 사항을 알 수 없기 때문에 완전히 이해되지 않습니다. 일반 대중에게 공개된 내용은 없습니다.
기본적으로 프로젝트 Q*는 환경에 대한 사전 지식이 필요하지 않아 기존 모델에서 벗어나는 모델 없는 강화 학습 방법입니다. 대신 경험을 통해 학습하고 보상과 처벌에 따라 행동을 조정합니다. 기술 전문가들은 프로젝트 Q*가 인간의 인지 능력과 유사한 능력을 획득함으로써 뛰어난 역량을 발휘할 수 있을 것으로 믿고 있습니다.
그러나 연구자와 비평가를 걱정하고 기술의 실제 적용과 관련된 기본 위험에 대한 두려움을 높이는 것은 새로운 인공 지능 모델에서 가장 인상적인 기능입니다. 과학자와 연구자들은 무엇을 그토록 두려워합니까? 그것을 알아 봅시다.
또한 흥미로운: Wi-Fi 6을 지원하도록 가정용 장치를 업데이트하는 방법
그들은 미지의 것을 두려워한다
인간은 언제나 미지의 것, 알 수 없는 것을 두려워해 왔습니다. 이것이 인간의 본질이자 우리의 성격과 삶의 방식의 특징입니다.
기술계는 로이터 이후 2023년 월 프로젝트 Q*에 대해 알게 되었습니다. 보고 관련 OpenAI 연구원들이 작성한 내부 편지에 대해. 편지 내용은 모호했지만, 프로젝트 Q*의 역량을 진지하게 분석한 것으로 알려졌다. 앞서 언급했듯이 샘 알트먼의 사임을 촉발한 것이 바로 이 편지였다는 추측도 있다.
이 폭발적인 발견은 프로젝트 Q*의 성격에 관한 다양한 가설을 불러일으켰습니다. 과학자들은 이것이 AI를 위한 혁신적인 자연어 모델이 될 수 있다고 제안했습니다. 다른 형태의 AI 또는 이 분야에서 완전히 다른 것을 위해 알고리즘을 생성할 새로운 알고리즘의 발명가입니다.
'평균 직원'으로서 일반 인공지능에 대한 알트만의 도발적인 발언은 이미 고용 안정과 AI 영향력의 거침없는 확대에 대한 우려를 불러일으켰다. 이 신비한 알고리즘은 일반 인공지능(AGI) 개발의 이정표로 정의됩니다. 그러나 이 이정표에는 비용이 많이 든다는 점은 모두가 알고 있습니다. 그리고 지금은 돈에 관한 것이 아닙니다. 새로운 AI 모델이 약속하는 인지 능력 수준은 불확실성을 수반합니다. OpenAI 과학자들은 AI가 인간 수준의 사고를 갖게 될 것이라고 약속합니다. 이는 우리가 많은 것을 알 수 없고 결과를 예측할 수 없다는 것을 의미합니다. 그리고 알려지지 않은 것이 많을수록 이를 제어하거나 수정하기 위해 준비하는 것이 더 어렵습니다. 즉, 새로운 알고리즘은 자체 개선 및 개발이 가능합니다. 우리는 이미 이것을 어디선가 본 적이 있습니다...
또한 흥미로운: Windows 12: 새로운 OS는 무엇일까요?
Project Q의 기능에 대한 놀라운 세부 정보*
더 많은 정보가 공개되기 시작하자 많은 연구자들은 충격에 빠졌습니다. 초기 징후는 프로젝트 Q*가 수학에 놀라운 재능을 가지고 있다는 것이었습니다. 기계적 계산을 수행하는 계산기와 달리 Project Q*는 논리와 추론을 사용하여 복잡한 수학 문제를 해결할 수 있습니다. 일반화하는 이러한 수학적 능력은 광범위한 지능의 발달을 암시합니다.
일반적인 AI를 훈련하는 데 사용되는 특정 데이터 세트 없이 프로젝트 Q*의 자율 훈련도 큰 진전이 될 것입니다. 프로젝트 Q*가 다른 기술을 습득했는지 여부는 아직 알려지지 않았습니다. 그러나 그의 수학적 능력은 그 자체로 너무 놀랍기 때문에 경험 많은 연구자들조차 혼란스러워합니다.
또한 읽기: 인간 두뇌 프로젝트: 인간 두뇌를 모방하려는 시도
프로젝트 Q*의 지배력은?
이 문제에는 낙관적인 시나리오와 비관적인 시나리오가 모두 있습니다. 낙관론자들은 프로젝트 Q*가 기술적 혁신을 이끄는 불꽃이 될 수 있다고 말합니다. 시스템이 반복적으로 자체 개선됨에 따라 초자연적 지능은 기후 변화에서 질병 통제에 이르기까지 인류의 가장 중요한 문제 중 일부를 해결하는 데 도움이 될 수 있습니다. 프로젝트 Q*는 지루한 작업을 자동화하고 다른 활동에 자유 시간을 확보할 수 있습니다.
더 많은 비관적 옵션이 있지만. 때때로 그것들은 상당히 합리적이고 특정한 의미를 가지고 있습니다.
일자리 상실
기술 발전의 급속한 변화는 사람들의 개별적인 적응을 앞지를 수 있습니다. 이는 새로운 현실에 적응하는 데 필요한 기술이나 지식을 습득하지 못하는 한 세대 이상의 손실로 이어질 것입니다. 즉, 이는 결국 직업을 유지할 수 있는 사람이 더 적어진다는 것을 의미합니다. 대신 기계, 자동화 시스템, 로봇이 이를 수행하게 됩니다. 그러나 자격을 갖춘 전문가의 경우 대답은 명확하지 않습니다. 또한, 특히 인공지능 알고리즘 개발과 관련된 새로운 직업이 나타날 수도 있습니다. 그러나 여전히 위험은 존재하며 인류는 이를 무시할 권리가 없습니다.
통제되지 않은 권력의 위험
프로젝트 Q*만큼 강력한 AI가 사악한 의도를 가진 사람들의 손에 들어가면 인류에게 재앙적인 결과를 초래할 위험이 있습니다. 잠재적으로 악의적인 의도가 없더라도 프로젝트 Q*의 의사 결정 수준은 해로운 결과를 초래할 수 있으므로 적용에 대한 신중한 평가의 중요성이 강조됩니다.
프로젝트 Q*가 인간의 요구에 제대로 최적화되지 않은 경우 임의의 측정항목을 최대화하는 기능으로 인해 해를 끼칠 수 있습니다. 혹은 국가의 감시나 탄압에 이용되는 등 정치적인 차원을 가질 수도 있습니다. 프로젝트 Q*의 영향 분석에 대한 공개 토론은 ZHI 개발을 위한 가능한 시나리오를 정의하는 데 도움이 될 것입니다.
우리는 "인간 대 기계" 대결을 앞두고 있나요?
할리우드는 이미 영화에서 그러한 대결에 대한 많은 시나리오를 만들었습니다. 우리 모두는 유명한 SkyNet과 그러한 발견의 결과를 기억합니다. OpenAI 연구자들이 이 영화를 다시 봐야 할까요?
인류는 신호와 도전을 받아들이고 일어날 수 있는 일에 대비해야 합니다. 인간처럼 생각하는 인공지능 모델이 언젠가는 우리의 적이 될 수도 있다. 많은 사람들은 미래에는 과학자들이 상황을 통제하는 방법을 정확히 알게 될 것이라고 주장할 것입니다. 하지만 기계의 경우에는 인간을 장악하려 할 가능성도 완전히 배제할 수는 없습니다.
또한 흥미로운 점: 우리가 AI라고 부르는 모든 것이 실제로 인공 지능은 아닙니다. 알아야 할 사항은 다음과 같습니다.
OpenAI는 왜 침묵하나요?
프로젝트 Q*에 대한 대중의 열광적인 관심에도 불구하고 OpenAI 경영진은 알고리즘의 세부 사항에 대해 침묵을 지키고 있습니다. 그러나 내부 유출은 개발의 우선 순위와 개방성에 대한 연구실의 긴장이 커지고 있음을 보여줍니다. 많은 OpenAI 내부자들이 프로젝트 Q*의 창설을 지지하는 반면, 비평가들은 어떤 대가를 치르더라도 과학적 진보를 가속화하는 데 투명성이 뒷전으로 밀려났다고 주장합니다. 그리고 일부 연구자들은 목표가 인간의 가치와 윤리와 반드시 일치하지 않는 시스템에 엄청난 힘이 부여되는 것을 우려하고 있습니다. 이 연구자들은 감독과 책임에 관한 논쟁이 위험할 정도로 조용해졌다고 믿습니다. 더 많은 홍보와 세부정보가 필요합니다.
프로젝트 Q*의 창시자로서 OpenAI는 사회 발전 가능성을 크게 확장하거나 무자비하게 파괴할 수 있는 기술을 보유하고 있음을 이해해야 합니다. 이러한 중요한 혁신은 대중의 신뢰를 구축하기 위해 훨씬 더 투명성을 확보할 가치가 있습니다. 기계 시대를 예측하는 사람이라면 이점과 함께 위험도 신중하게 평가해야 합니다. 그리고 프로젝트 Q*의 개발자들은 우리가 상상했던 것보다 빨리 도래할 수 있는 일반 인공 지능의 새로운 시대로 사회를 안전하게 안내하기 위해 충분한 지혜와 관심을 보여야 합니다.
일반 인공지능이 인류에게 유용하고 안전하기 위해서는 그것이 인류의 가치와 목표에 따라 안전하고 윤리적으로 작동한다는 것이 보장되어야 합니다. 이를 위해서는 CSI의 행동과 행동을 통제하고 제한할 적절한 규제법, 표준, 규칙 및 프로토콜의 개발과 구현이 필요합니다. 또한 인류의 파괴로 이어질 수 있는 남용, 사고, 부조화, 조작 및 갈등과 관련된 잠재적인 위협과 위험을 제거해야 합니다. 그동안 투자자와 Microsoft 이익을 창출할 수 있는 시장성 있는 제품을 간절히 기다리는 것은 책임감 있는 행동의 필요성과 분명히 상충됩니다. 상식이 승리하기를 바랍니다.
또한 읽기: