오늘 우리는 신경망이 무엇인지, 어떻게 작동하는지, 인공지능을 만드는 데 있어서 신경망의 역할이 무엇인지 알아내려고 노력할 것입니다.
신경망. 우리는 거의 모든 곳에서 이 말을 듣습니다. 냉장고에서도 신경망을 찾을 수 있을 정도입니다(농담이 아닙니다). 신경망은 오늘날 컴퓨터와 스마트폰뿐만 아니라 가전제품과 같은 다른 많은 전자 장치에서도 찾아볼 수 있는 기계 학습 알고리즘에 의해 널리 사용됩니다. 그리고 이러한 신경망이 무엇인지 궁금한 적이 있습니까?
걱정하지 마십시오. 이것은 학술적인 강의가 아닙니다. 우크라이나어를 포함하여 정밀 과학 분야에서 이 문제를 매우 전문적이고 안정적으로 설명하는 많은 출판물이 있습니다. 그러한 출판물은 십여 년이 넘었습니다. 이러한 오래된 출판물이 여전히 관련성이 있다는 것이 어떻게 가능합니까? 사실 신경망의 기본은 변하지 않았으며 인공 뉴런의 수학적 모델인 개념 자체는 차 세계 대전 중에 만들어졌습니다.
인터넷과 마찬가지로 오늘날의 인터넷은 최초의 이메일이 전송되었을 때와 비교할 수 없을 정도로 발전했습니다. 인터넷의 기초, 기본 프로토콜은 인터넷이 탄생한 초기부터 존재했습니다. 모든 복잡한 개념은 오래된 구조의 기초 위에 세워졌습니다. 우리 뇌와 마찬가지로 가장 어린 대뇌 피질은 가장 오래된 진화적 요소인 뇌간 없이는 기능할 수 없습니다. 뇌간은 이 지구상에 우리 종이 존재한 것보다 훨씬 오래 전부터 우리 머리 속에 있었습니다.
내가 당신을 조금 혼란스럽게 했나요? 그럼 좀 더 자세히 이해해 볼까요?
또한 흥미로운: ChatGPT: 간단한 사용 지침
신경망이란 무엇입니까?
네트워크는 특정 요소의 모음입니다. 이것은 수학, 물리학 또는 기술 분야에서 가장 간단한 접근 방식입니다. 컴퓨터 네트워크가 상호 연결된 컴퓨터 집합이라면 신경망은 분명히 뉴런 집합입니다.
그러나 이러한 요소는 복잡성 측면에서 우리 뇌 및 신경계의 신경 세포와 비교할 수 없을 정도로 복잡하지만 특정 수준의 추상화에서는 인공 뉴런과 생물학적 뉴런의 일부 기능이 공통적입니다. 그러나 인공 뉴런은 우리가 아직 모든 것을 알지 못하는 생물학적 뉴런보다 훨씬 단순한 개념이라는 점을 기억할 필요가 있습니다.
또한 읽기: ChatGPT의 가장 멋진 7가지 용도
먼저 인공뉴런이 있었다
인공 뉴런의 최초 수학적 모델은 1943년에 두 명의 미국 과학자인 Warren McCulloch와 Walter Pitts에 의해 개발되었습니다(예, 제차 세계 대전 중 실수는 아닙니다). 그들은 뇌 생리학(이 모델이 만들어진 시기를 기억하세요), 수학, 당시의 젊은 IT 접근 방식(무엇보다도 Alan Turing의 계산 가능성 이론을 사용함)에 대한 기본 지식을 결합한 학제간 접근 방식을 기반으로 이를 수행했습니다. ). McCulloch-Pitts 인공 뉴런 모델은 매우 간단한 모델로, 입력 정보가 뉴런의 동작을 결정하는 가중치(매개변수)를 통과하는 많은 입력을 포함합니다. 결과 결과는 단일 출력으로 전송됩니다(McCulloch-Pitts 뉴런 다이어그램 참조).
이러한 나무 같은 구조는 생물학적 뉴런과 연관되어 있다. 왜냐하면 우리가 생물학적 신경세포를 묘사한 그림을 생각할 때 떠오르는 것이 특징적인 나무 같은 구조의 수상돌기이기 때문이다. 그러나 인공 뉴런이 적어도 실제 신경 세포에 어느 정도 가깝다는 착각에 빠져서는 안 됩니다. 최초의 인공 뉴런의 저자인 이 두 연구자는 상호 연결된 뉴런 네트워크를 사용하여 계산 가능한 모든 함수를 계산할 수 있음을 입증했습니다. 그러나 이러한 첫 번째 개념은 "종이 위에"만 존재하는 아이디어로만 만들어졌으며 운영 장비의 형태로 실제 해석이 이루어지지 않았다는 점을 기억하십시오.
또한 읽기: 간단한 단어로 양자 컴퓨터에 대해
모델부터 혁신적인 구현까지
McCulloch와 Pitts는 이론적 모델을 개발했지만 최초의 실제 신경망을 만드는 데는 1957년 이상 기다려야 했습니다. 그 창시자는 년에 Mark I Perceptron 네트워크를 만든 Frank Rosenblatt라는 인공 지능 연구의 또 다른 선구자로 간주되며, 당신은 이 구조 덕분에 기계가 이전에 동물과 인간에게만 고유한 능력을 획득했다는 것을 직접 보여주었습니다. 배울 수 있습니다. 그러나 이제 우리는 실제로 Rosenblatt 이전을 포함하여 기계가 학습할 수 있다는 아이디어를 생각해낸 다른 과학자들이 있었다는 것을 알고 있습니다.
1950년대 컴퓨터 과학의 많은 연구자와 선구자들은 기계가 스스로 할 수 없는 일을 어떻게 하면 할 수 있는지에 대한 아이디어를 생각해 냈습니다. 예를 들어, Arthur Samuel은 인간과 체커 게임을 하는 프로그램을 개발했고, Allen Newell과 Herbert Simon은 독립적으로 수학 정리를 증명할 수 있는 프로그램을 만들었습니다. Rosenblatt의 첫 번째 신경망이 만들어지기 전인 1952년, 즉 Rosenblatt의 퍼셉트론이 등장하기 전에도 인공 지능 분야 연구의 다른 두 선구자인 Marvin Minsky와 Dean Edmonds는 SNARC(Stochastic Neural Network)라는 기계를 만들었습니다. 아날로그 강화 계산기) - 많은 사람들이 최초의 확률론적 신경망 컴퓨터로 간주하는 확률론적 신경 아날로그 계산기 강화입니다. SNARC는 최신 컴퓨터와 아무런 관련이 없다는 점에 유의해야 합니다.
3000개 이상의 전자 튜브와 B-24 폭격기의 예비 자동 조종 장치를 사용하는 이 강력한 기계는 40개의 뉴런의 작동을 시뮬레이션할 수 있었으며, 이는 미로에서 출구를 찾는 쥐의 탐색을 수학적으로 시뮬레이션하기에 충분한 것으로 나타났습니다. . 물론 쥐는 없었고, 단지 추론하고 최적의 해결책을 찾는 과정일 뿐이었다. 이 차는 Marvin Minsky의 Ph.D.의 일부였습니다.
신경망 분야의 또 다른 흥미로운 프로젝트는 Bernard Withrow가 1960년에 개발한 ADALINE 네트워크였습니다. 따라서 반세기 전에 연구자들이 신경망의 이론적 기초를 알고 심지어 그러한 계산 프레임워크의 최초 작동 구현을 만들었기 때문에 21세기까지 이렇게 오랜 시간이 걸렸다는 질문을 던질 수 있습니다. 신경망을 기반으로 실제 솔루션을 만드시겠습니까? 대답은 하나입니다. 컴퓨팅 성능이 부족하지만 이것이 유일한 장애물은 아닙니다.
1950년대와 1960년대에는 많은 AI 선구자들이 신경망의 가능성에 매료되었지만, 그들 중 일부는 인간의 두뇌와 동등한 기계가 불과 년 뒤에 나올 것이라고 예측했습니다. 오늘날 읽어보면 더욱 재미있습니다. 왜냐하면 우리는 아직 인간의 두뇌와 동등한 기계를 만드는 데도 가까이 가지 못했고 이 문제를 해결하려면 아직 멀었기 때문입니다. 최초의 신경망의 논리가 매력적이고 제한적이라는 것이 금방 분명해졌습니다. 인공 뉴런과 기계 학습 알고리즘을 사용한 최초의 AI 구현은 특정한 좁은 범위의 작업을 해결할 수 있었습니다.
그러나 패턴 및 이미지 인식, 동시번역, 음성 및 필기 인식 등과 같이 오늘날 컴퓨터와 AI가 이미 할 수 있는 일을 더 넓은 공간에서 해결하고 실제로는 신경망의 첫 번째 구현은 단순히 그렇게 할 수 없었습니다. 왜 그럴까요? 그 대답은 Marvin Minsky(예, SNARC의 동일한 연구)와 Seymour Papert의 연구에 의해 주어졌습니다. 그는 1969년에 퍼셉트론 논리의 한계를 입증하고 스케일링만으로 단순 신경망의 기능을 늘리는 것이 효과가 없음을 보여주었습니다. 또 하나의 매우 중요한 장벽이 있었습니다. 당시 사용 가능한 컴퓨팅 성능은 신경망을 의도한 대로 사용하기에는 너무 작았습니다.
또한 흥미로운:
- 그래서 말할까 말까? 머스크는 푸틴 대통령과 대화를 거부했다. 그러나 "하지만"이 있습니다.
- 현대 포병은 우크라이나의 슈퍼 무기입니다. 그리고 왜 Elon Musk가 여기에 있습니까?
신경망의 르네상스
1970년대와 1980년대에 신경망은 사실상 잊혀졌습니다. 사용 가능한 컴퓨팅 성능이 너무 커져서 사람들이 컴퓨팅 성능으로 돌아와 이 분야에서 능력을 개발하기 시작한 것은 지난 세기 말이 되어서였습니다. 최초의 간단한 신경망의 한계를 극복할 수 있는 새로운 기능과 알고리즘이 등장한 것은 바로 그때였습니다. 다층 신경망의 심층 머신러닝에 대한 아이디어가 떠오른 것은 바로 그때였습니다. 실제로 이 레이어에는 어떤 일이 발생하나요? 오늘날 우리 환경에서 작동하는 거의 모든 유용한 신경망은 다층 구조입니다. 입력 데이터와 매개변수(가중치)를 수신하는 작업을 수행하는 입력 레이어가 있습니다. 이러한 매개변수의 수는 네트워크에서 해결해야 하는 계산 문제의 복잡성에 따라 달라집니다.
또한 소위 "숨겨진 레이어"가 있습니다. 여기서 딥 머신 러닝과 관련된 모든 "마법"이 발생합니다. 이 신경망이 필요한 계산을 학습하고 수행하는 능력을 담당하는 것은 숨겨진 레이어입니다. 마지막 요소는 출력 레이어, 즉 원하는 결과를 제공하는 신경망 레이어입니다. 이 경우 인식된 필기, 얼굴, 음성, 텍스트 설명을 기반으로 형성된 이미지, 단층 촬영 분석 결과 진단 이미지 등.
또한 읽기: Bing의 챗봇을 테스트하고 인터뷰했습니다.
신경망은 어떻게 학습하나요?
우리가 이미 알고 있듯이 신경망의 개별 뉴런은 개별 값과 연결이 할당된 매개변수(가중치)를 사용하여 정보를 처리합니다. 이러한 가중치는 학습 과정 중에 변경되므로 원하는 결과를 생성하는 방식으로 이 네트워크의 구조를 조정할 수 있습니다. 네트워크는 정확히 어떻게 학습하나요? 분명한 것은 끊임없이 훈련을 받아야 한다는 것입니다. 이 말에 놀라지 마십시오. 우리도 배우고 있는데 이 과정은 혼란스럽지 않고 질서정연하다고 합시다. 우리는 그것을 교육이라고 부릅니다. 어떤 경우든 신경망도 훈련할 수 있으며 이는 일반적으로 적절하게 선택된 입력 세트를 사용하여 수행되며, 이는 향후 수행할 작업에 대해 어떻게든 네트워크를 준비합니다. 그리고 이 모든 것은 단계별로 반복되며 때로는 학습 과정이 어느 정도 훈련 과정 자체와 유사합니다.
예를 들어, 이 신경망의 작업이 얼굴을 인식하는 것이라면 얼굴이 포함된 수많은 이미지에 대해 사전 훈련됩니다. 학습 과정에서 은닉층의 가중치와 매개변수가 변경됩니다. 전문가들은 여기서 '비용 함수의 최소화'라는 표현을 사용합니다. 비용 함수는 주어진 신경망이 얼마나 많은 실수를 하는지 알려주는 양입니다. 훈련 결과로 비용 함수를 최소화할수록 이 신경망은 실제 세계에서 더 나은 성능을 발휘할 것입니다. 모든 신경망을 기존 알고리즘을 사용하여 프로그래밍된 작업과 구별하는 가장 중요한 특징은 기존 알고리즘의 경우 프로그래머가 프로그램이 수행할 작업을 단계별로 설계해야 한다는 것입니다. 신경망의 경우 네트워크 자체가 스스로 작업을 올바르게 수행하는 방법을 학습할 수 있습니다. 그리고 복잡한 신경망이 어떻게 계산을 수행하는지 정확히 아는 사람은 아무도 없습니다.
오늘날 신경망은 광범위하게 사용되고 있으며, 놀랍게도 특정 네트워크의 계산 프로세스가 실제로 어떻게 작동하는지 이해하지 못한 채 매우 자주 사용됩니다. 그럴 필요가 없습니다. 프로그래머는 특정 유형의 입력 데이터를 위해 준비된 기성 기계 학습 신경망을 사용하고, 자신에게만 알려진 방식으로 처리하여 원하는 결과를 생성합니다. 프로그래머는 신경망 내에서 추론 프로세스가 어떻게 작동하는지 알 필요가 없습니다. 즉, 사람은 대량의 계산, 정보를 얻는 방법 및 신경망을 통한 처리에 대해 무관심합니다. 인공 지능 모델과 관련하여 인류에 대한 특정 두려움이 있습니다. 우리는 언젠가 신경망이 스스로 특정 작업을 설정하고 사람의 도움 없이 독립적으로 문제를 해결할 방법을 찾을까 두렵습니다. 이는 인류를 걱정하게 하고 기계 학습 알고리즘 사용에 대한 두려움과 불신을 야기합니다.
이러한 실용적인 접근 방식은 오늘날 일반적입니다. 우리도 마찬가지입니다. 우리는 특정 활동에서 누군가를 훈련시키는 방법을 알고 있으며, 훈련 과정이 올바르게 수행되면 효과적이라는 것을 알고 있습니다. 사람은 원하는 기술을 습득하게 됩니다. 그러나 우리는 이러한 효과를 야기한 추론 과정이 그의 뇌에서 어떻게 일어나는지 정확히 이해하고 있습니까? 우리는 전혀 모른다.
과학자의 임무는 이러한 문제를 가능한 한 많이 연구하여 필요한 경우 우리에게 봉사하고 도움을 주며, 가장 중요한 것은 위협이 되지 않도록 하는 것입니다. 인간으로서 우리는 모르는 것을 두려워합니다.
또한 흥미로운 점: