기계 반란을 피하려는 시도: 인공 지능의 첫 번째 헌법

인공 지능(AI) 기술의 생성 및 개발을 전문으로 하는 교수, 개발자 및 엔지니어의 회의가 5월 8일부터 일까지 캘리포니아에서 열렸습니다. 일간의 활발한 토론 과정에서 현재 이미 사용되고 있고 미래에 적용되어야 하는 AI 원칙 목록이 작성되었습니다. 사실 지난 수십 년 동안 기계 학습 분야에서 인류가 이룩한 성과를 어느 정도 요약했습니다.

일반적으로 "인공 지능"은 인간의 두뇌 및 지능 자체와 직접적인 관련이 없습니다. 이 용어의 저자인 미국 컴퓨터 과학자 존 매카시(John McCarthy)는 이 개념을 다음과 같이 해석합니다. 이 과학의 한계 내에서 지능 하에서는 세계에서 목표를 달성하는 능력의 계산적 구성 요소만 이해됩니다. 이것은 1956년 다트머스 대학에서 열린 회의에서 발표되었습니다.

시간은 McCarthy의 말을 확인했습니다. 오늘날 우리는 목표를 달성하기 위해 정보 도구를 사용하고 세상을 단순화하거나 미래에 대해 생각하는 아이디어는 소프트웨어 코드와 점점 더 밀접하게 관련되어 있습니다. 예, 우리는 같은 작품의 아이디어를 변경했지만 그들의 편재성을 절대 배제하지 않았습니다.

따라서 편집된 23개의 "미래의 법칙"은 모두 과학 연구 문제, 윤리 및 가치, 기술 관점의 세 그룹으로 나뉩니다.

인공지능의 구성

연구 부문

1. 인공 지능 연구의 목표는 협소하게 집중된 장치를 만드는 것뿐만 아니라 사회 전체에 이익이 되는 것입니다.

2. AI에 대한 투자는 정보학, 경제, 법률, 윤리, 사회 과학의 다음 질문에 대해 보다 정확하고 일반화된 답변을 제공할 수 있도록 기술의 유용성을 보장하는 연구 분야로 들어가야 합니다.

• AI의 높은 신뢰성을 보장하고 해커 공격에 성공적으로 저항하며 오작동을 쉽게 방지하는 방법은 무엇입니까?
• 최소한의 리소스를 사용하여 자동화를 통해 원하는 목표를 어떻게 달성할 수 있습니까?
• AI의 출현을 고려하여 현대 정경에 따라 정의를 보장하면서 법률 시스템을 유능하게 업데이트하는 방법은 무엇입니까?
• AI는 어떤 법적, 민족적 지위를 갖게 될까요?

3. 연구자와 정치가의 건설적이고 평등한 상호 작용을 보장합니다.

4. AI의 추가 사용을 위한 문화적 성과의 완전한 개방성과 투명성.

5. 첨예한 경쟁을 피하기 위한 AI 연구자 간의 교류와 협력.

도덕적 가치

6. 인공 지능 시스템은 전체 운영 기간 동안 안전하고 신뢰할 수 있어야 합니다.

7. 가능한 한 빨리 문제의 원인을 찾아 제거합니다.

8. 법원 결정에 대한 자율 시스템의 모든 개입은 위원회의 유능한 위원(사람)이 확인할 경우 권한이 부여되고 보고 대상이 되어야 합니다.

9. 설계 또는 소프트웨어 오류로 인해 의도적으로 위험한 상황을 조성하는 손해에 대한 책임은 개발자와 엔지니어의 어깨에 있습니다.

10. 모든 자율 AI 시스템은 인간의 보편적 가치에 대한 지식을 얻기 위해 노력해야 합니다.

11. AI는 인간의 존엄성, 권리, 자유 및 문화적 다양성의 이상과 양립할 수 있는 방식으로 설계되고 운영되어야 합니다.

12. 개인이 AI를 사용하는 과정에서 생성된 정보는 향후 동일한 사람이 사용할 수 있어야 합니다(결과 및 수집된 데이터 관리 가능).

13. 개인 데이터로 작업할 때 AI는 사람들의 실제 또는 상상의 자유를 부당하게 제한해서는 안 됩니다.

14. AI 기술은 가능한 한 많은 사람들이 혜택을 받고 접근할 수 있어야 합니다.

15. AI의 경제적, 사회적 성과는 전 세계적이며 인류의 이익을 지향해야 합니다.

16. 사람은 항상 선택권이 있습니다. 독립적으로 결정을 내리거나 AI에 맡길 수 있습니다.

17. AI의 목적은 파괴와 재앙을 가져오지 않고 사회를 개선하고 풍요롭게 하는 것입니다.

18. 군비 경쟁에서 AI 기술을 사용할 확률은 으로 줄어들어야 하며, 사실상 무장 경쟁도 중단되어야 합니다.

장기적인 문제

19. 우리는 비합리적인 자원 낭비를 피하기 위해 AI 능력의 한계를 절대적으로 냉정하게 평가해야 합니다.

20. AI의 발전은 집약적일 것이므로 돌이킬 수 없는 반응을 일으키지 않도록 기술을 통제해야 합니다.

21. 위험, 특히 대규모 위험은 가능한 손실을 최소화하는 방식으로 계획되어야 합니다.

22. AI 시스템은 자체 개발 및 자체 재생산이 가능하여 AI 활동의 질 저하를 유발할 수 있으므로 주요 지표에 대한 정기적인 관리가 이루어져야 한다.

23. 초지능은 특정 민간 조직이나 국가에 종속되지 않고 모든 인류의 이익을 위해 봉사하고 봉사할 기술입니다.

또한 읽으십시오: Hyperloop: 진공 열차 경주는 어떻습니까?

보고서의 주요 논문을 간단히 기억해 봅시다. 전문가들은 AI가 집중적으로 발전하는 순간 자신의 후진성을 걱정하고 기술에 대한 절대적인 통제권을 확보하기 위해 노력한다. AI의 글로벌 공공 가치와 인간 문화로의 통합도 반복적으로 강조됩니다. 그러나 이 계획이 실행될지는 곧 알게 될 것입니다. 인공 지능은 강아지와 같아서 이제는 달리고 놀지만 결국에는 어떤 종류의 개가 될 것인지는 주로 소유자에게 달려 있습니다.

현재이 "법안"은 지구 시민의 승인 단계에 있으므로 안전하고 행복하며 기술적인 미래를 원한다면 자유롭게 "투표"이 절대적으로 합리적이고 필요한 원칙을 채택하기 위해.

튜링 테스트와 인공 지능

위대한 수학자 Alan Turing도 AI 기술에 관여했기 때문에 매우 흥미로운 테스트를 내놓았습니다. 튜링 테스트는 1950년 철학 출판물인 Mind의 "Computing machines and the mind" 기사에서 처음 소개되었습니다. 테스트의 아이디어는 기계 사고의 기능과 일반적으로 그 존재 자체를 결정하는 것입니다.

표준 해석은 다음과 같습니다. 컴퓨터 프로그램의 임무는 사람을 오도하여 잘못된 선택을 하도록 강요하는 것입니다." 모든 참가자는 서로를 볼 수 없으며 테스트 형식으로 의사 소통이 이루어집니다. 테스트의 목적이 음성 인식 장치의 기술적 기능을 테스트하는 것이 아니라 인간의 생각을 모방하는 능력이기 때문입니다.

"판단"이 응답 속도에 따라 결론을 내릴 수 없도록 제어된 간격으로 서신도 수행됩니다. 이 테스트를 만들 때 컴퓨터가 사람보다 더 느리게 반응했기 때문에이 규칙이 발명되었다는 것이 흥미 롭습니다. 이제 사람이 뒤처지기 때문에 이제는 필요합니다.

또한 이 테스트를 기반으로 대화 상대의 성별을 결정하기 위해 유사한 테스트를 만들었습니다. 심판의 역할에서 선수 C는 선수 A와 B, 실제로는 남자와 여자와 소통해야 합니다.

AI에 관한 한 연구 논문은 다음과 같이 논평했습니다. “이제 우리는 '이 게임에서 기계가 플레이어 A 역할을 하면 어떻게 됩니까? 여성? 이러한 질문은 "기계가 생각할 수 있는가"라는 원래 질문을 대체할 것입니다.

즉, 절대적으로 무리한 하나의 질문 대신 쉬운 질문에 답하고 일관되게 수행하여 인공 지능의 정신 능력에 대한 주요 질문에 대한 오랫동안 기다려온 대답에 점점 더 가까워집니다.

출처: 미래의 삶, 위키 백과 그리고 더 위키 백과