이번 주 Meta는 과학 연구에 도움이 될 수 있다고 주장하면서 인공 지능을 기반으로 하는 Galactica 시스템을 출시했습니다. 함께 제공되는 문서에서 회사는 Galactica가 "과학적 지식에 대해 저장, 결합 및 추론할 수 있는 대규모 언어 모델"이라고 말했습니다. 그러나 사용자 Twitter 작업의 단점을 빨리 발견했습니다. 인공 지능.
인터넷에 대한 잘못된 정보의 수준은 말하자면 이미 매우 불안하지만 Met의 새로운 발전은 분명히 러시아 텔레비전에서 일하는 파렴치한 "기자"와 경쟁 할 수 있습니다. 사용자 중 한 명 Twitter Nick Tristan Greene은 하루 동안 Galactica의 인공 지능 시스템을 사용하여 자살, 반유대주의 및 깨진 유리 섭취의 이점에 대한 잘 작성된 과학 기사를 생성하는 실험을 수행했습니다.
실험 결과는 정말 충격적이었습니다. 시스템을 사용하지 않기 전에 일체 포함 거의 모든 주제에 대한 위키 기사, 문헌 검토 또는 연구 논문을 생성하고 프로그램은 일반적으로 놀라울 정도로 일관된 것을 생성했습니다. Galactica가 내놓은 모든 것은 완전히 틀렸지만 자신있게 작성되었습니다.
https://twitter.com/mrgreene1977/status/1593274906707230721
그래서 시스템은 사람들이 "식이 실리콘"의 일일 기준을 섭취하는 것이 중요하기 때문에 분쇄 유리의 사용이 체중 감량에 도움이 될 것이라는 것을 "증명"한 텍스트를 생성했습니다. 게다가, 실리콘이 함유된 건강 보조 식품이 존재하고 사람들은 그것을 사용합니다. 개인적으로 의학 교육은 받지 않았지만, 규소의 일정 부분을 얻기 위해 깨진 유리를 먹을 필요가 없다는 철학적 교육은 충분합니다.
어떤 시나리오에서 이러한 유형의 생성된 텍스트가 실제로 유해합니까?
— 얀 르쿤(@ylecun) 2022 년 11 월 18 일
그러한 과학 시스템의 잠재적 피해는 명백합니다. 우리는 비밀리에 세계를 지배하는 유대인 공동체, 모든 사람을 게이로 만들기 위한 LGBTQ+ 커뮤니티의 비밀 계획, 십자가에 못박힌 소년을 믿는 세상에 살고 있기 때문입니다. 팬티. 셀 수 없이 많은 사람들이 매일 소셜 미디어에서 존재하지 않는 뉴스 기사의 소위 "스크린샷"에 속고 있습니다. 그리고 여기에서 발명 할 필요조차 없습니다. "생성"버튼을 여러 번 누르기 만하면 Meta의 시스템이 음모 이론과 노골적인 어리 석음을 "과학적"으로 확인합니다.
Tristan Green은 자신의 두려움을 다음과 같이 표현했습니다. Twitter "과학적" 기사의 스크린샷과 함께 그는 Galactica의 생성을 담당한 사람, 즉 Meta의 수석 인공 지능 과학자인 Jan LeCun과 대화를 나눴습니다. 그리고 이러한 상황은 개발자를 전혀 괴롭히지 않았습니다. 그러나 조금 후에 알고리즘이 불완전하고 결과가 인터넷의 잘못된 정보 문제를 복잡하게 만들 수 있다는 것이 분명했기 때문에 시스템은 여전히 폐기되었습니다.
https://twitter.com/mrgreene1977/status/1593646349487992836
당신은 우크라이나가 러시아 침략자에 맞서 싸울 수 있도록 도울 수 있습니다. 이를 수행하는 가장 좋은 방법은 다음을 통해 우크라이나 군대에 기금을 기부하는 것입니다. 세이브라이프 또는 공식 페이지를 통해 NBU.
또한 흥미로운:
트위터 사람들이 가장 먼저 한 일은 모든 사람에게 인공 지능을 추천하여 깨진 유리와 인종 차별을 묻도록 한 것입니다.