Бүгүн биз нейрон тармактары деген эмне, алар кантип иштейт жана алардын жасалма интеллектти түзүүдөгү ролу кандай экенин аныктоого аракет кылабыз.
Нейрондук тармактар. Бул сөздү биз дээрлик бардык жерде угабыз. Нейрондук тармактарды муздаткычтарда да таба аласыз (бул тамаша эмес). Нейрондук тармактарды машиналык үйрөнүү алгоритмдери кеңири колдонушат, аларды бүгүнкү күндө компьютерлерде жана смартфондордо гана эмес, ошондой эле башка көптөгөн электрондук түзүлүштөрдө, мисалы, тиричилик техникаларында табууга болот. Жана сиз бул нейрон тармактары эмне экенин ойлонуп көрдүңүз беле?
Кабатыр болбоңуз, бул академиялык лекция болбойт. Так илимдер тармагында бул маселени абдан кесипкөй жана ишенимдүү түшүндүргөн көптөгөн басылмалар, анын ичинде украин тилинде да бар. Мындай басылмаларга он жылдан ашты. Кантип бул эски басылмалар дагы деле актуалдуу болушу мүмкүн? Нейрондук тармактардын негиздери өзгөргөн жок, ал эми концепциянын өзү — жасалма нейрондун математикалык модели — Экинчи дүйнөлүк согуш учурунда түзүлгөн.
Интернет менен бирдей эле, бүгүнкү Интернет биринчи электрондук почта жөнөтүлгөн учурга караганда салыштырмалуу өнүккөн. Интернеттин негиздери, фундаменталдык протоколдору ал түзүлгөндөн баштап эле болгон. Ар бир татаал концепция эски курулуштардын пайдубалына курулат. Биздин мээбизде да ушундай, эң жаш мээ кабыгы эң эски эволюциялык элементсиз иштей албайт: мээнин сабагы, бул планетада биздин түрлөрдүн бар болушунан бир топ эски замандардан бери биздин башыбызда.
Мен сени бир аз адаштырдымбы? Ошентип, кененирээк түшүнүп көрөлү.
Ошондой эле кызыктуу: ChatGPT: колдонуу үчүн жөнөкөй нускамалар
Нейрондук тармактар деген эмне?
Тармак - бул белгилүү элементтердин жыйындысы. Бул математика, физика же технологиядагы эң жөнөкөй ыкма. Эгерде компьютер тармагы бири-бири менен байланышкан компьютерлердин жыйындысы болсо, анда нейрон тармагы, албетте, нейрондордун жыйындысы.
Бирок, бул элементтер татаалдыгы боюнча мээбиздин жана нерв системабыздын нерв клеткалары менен алыскы салыштырууга да болбойт, бирок абстракциянын белгилүү бир деңгээлинде жасалма нейрондун жана биологиялык нейрондун кээ бир өзгөчөлүктөрү кеңири таралган. Бирок жасалма нейрондун биологиялык кесиптешине караганда бир топ жөнөкөй түшүнүк экенин эстен чыгарбоо керек, ал жөнүндө биз дагы эле баарын биле элекпиз.
Ошондой эле окуңуз: ChatGPTтин эң сонун 7 колдонулушу
Алгач жасалма нейрон болгон
Жасалма нейрондун биринчи математикалык модели 1943-жылы (ооба, бул жаңылыштык эмес, Экинчи Дүйнөлүк Согуш маалында) америкалык эки окумуштуу Уоррен Маккаллох жана Уолтер Питтс тарабынан иштелип чыккан. Алар муну мээ физиологиясы (бул модель түзүлгөн учурду эстегиле), математика жана ошол кездеги жаш IT мамилеси (башка нерселер менен катар Алан Тьюрингдин эсептөө теориясын колдонушкан) негизги билимдерин бириктирип, дисциплиналар аралык мамиленин негизинде ишке ашыра алышты. ). МакКаллоч-Питтс жасалма нейрон модели абдан жөнөкөй модели болуп саналат, ал көп киргизүү маалымат бар, салмагы (параметрлер) аркылуу өтөт, алардын маанилери нейрондун жүрүм-турумун аныктайт. Алынган натыйжа бир чыгууга жөнөтүлөт (Маккаллох-Питтс нейронунун диаграммасын караңыз).
Мындай дарак сымал түзүлүш биологиялык нейрон менен байланыштуу, анткени биологиялык нерв клеткаларын чагылдырган чиймелерди ойлогондо, дендриттердин дарак сымал өзгөчөлүгү эске келет. Бирок, жасалма нейрон жок дегенде чыныгы нерв клеткасына бир аз жакын деген элестерге алдырбаш керек. Бул эки изилдөөчү, биринчи жасалма нейрондун авторлору, ар кандай эсептелүүчү функцияны өз ара байланышкан нейрондор тармагын колдонуу менен эсептөөгө болоорун көрсөтө алышты. Бирок, бул алгачкы концепциялар «кагаз бетинде» гана болгон идеялар катары гана жаралганын жана жабдыктарды эксплуатациялоо түрүндө реалдуу интерпретацияга ээ болбогонун эстейли.
Ошондой эле окуңуз: Жөнөкөй сөз менен айтканда, кванттык компьютерлер жөнүндө
Модельден инновациялык ишке ашырууга чейин
МакКаллоч жана Питтс теориялык моделди иштеп чыгышкан, бирок биринчи чыныгы нейрон тармагын түзүү он жылдан ашык убакыт күтүүгө туура келген. Анын жаратуучусу 1957-жылы Mark I Perceptron тармагын түзгөн Фрэнк Розенблатт жасалма интеллект изилдөөлөрүнүн дагы бир пионери болуп эсептелет жана бул түзүлүштүн аркасында машина мурда жаныбарларга жана адамдарга гана мүнөздүү болгон жөндөмгө ээ болгонун сиз өзүңүз көрсөткөнсүз: ал үйрөнө алат. Бирок, биз азыр билебиз, чындыгында, машина үйрөнө алат деген идеяны ойлоп тапкан башка илимпоздор, анын ичинде Розенблатка чейин.
1950-жылдары көптөгөн изилдөөчүлөр жана компьютердик илимдин пионерлери машинаны өз алдынча кыла албаган нерсени кантип жасоо керек деген идеяны ойлоп табышты. Мисалы, Артур Самуэль адам менен шашки ойноочу программаны иштеп чыгышса, Аллен Ньюелл жана Герберт Саймон математикалык теоремаларды өз алдынча далилдей ала турган программаны түзүшкөн. Розенблаттын биринчи нейрон тармагы түзүлгөнгө чейин, жасалма интеллект тармагындагы изилдөөнүн башка эки пионери Марвин Мински жана Дин Эдмондс 1952-жылы, башкача айтканда, Розенблаттын перцептрону пайда боло электе эле SNARC (Стохастикалык Нейрал) деп аталган машинаны курушкан. Analog Reinforment Calculator) - стохастикалык нейрондук аналогдук эсептегич күчөтүү, көптөр биринчи стохастикалык нейрон тармагынын компьютери деп эсептешет. Белгилей кетсек, SNARCтин заманбап компьютерлерге эч кандай тиешеси жок болчу.
3000ден ашык электрондук түтүктөрдү жана B-24 бомбалоочу учактын запастык автопилоттук механизмин колдонгон күчтүү машина 40 нейрондун иштешин имитациялай алган, бул келемиштин лабиринттен чыгууну математикалык түрдө моделдөө үчүн жетиштүү болуп чыкты. . Албетте, келемиш болгон жок, бул жөн гана дедукция жана оптималдуу чечимди табуу процесси болчу. Бул машина Марвин Минскинин Ph.D.
Нейрондук тармактар тармагындагы дагы бир кызыктуу долбоор 1960-жылы Бернард Уитроу тарабынан иштелип чыккан ADALINE тармагы болгон. Ошентип, бир суроону коюуга болот: жарым кылымдан ашык убакыт мурун изилдөөчүлөр нейрон тармактарынын теориялык негиздерин билишкен жана ал тургай мындай эсептөө алкактарынын биринчи жумушчу ишке ашырууларын түзгөндүктөн, эмне үчүн 21-кылымга чейин мынчалык көп убакытты талап кылган. нейрондук тармактардын негизинде реалдуу чечимдерди түзүү? Жооп бир: эсептөө күчү жетишсиз, бирок бул жалгыз тоскоолдук эмес.
1950-1960-жылдары көптөгөн AI пионерлери нейрондук тармактардын мүмкүнчүлүктөрү менен суктанышкан жана алардын айрымдары адамдын мээсинин машина эквивалентине он жыл гана убакыт бар деп болжолдошкон. Муну бүгүн окуу да күлкүлүү, анткени биз адам мээсинин машина эквивалентин түзүүгө дагы деле жакындай элекпиз жана бул милдетти чечүүдөн дагы эле алыспыз. Биринчи нейрондук тармактардын логикасы кызыктуу жана чектелүү экени бат эле айкын болду. Жасалма нейрондорду жана машинаны үйрөнүү алгоритмдерин колдонуу менен AIнын биринчи ишке ашырылышы милдеттердин белгилүү бир тар чөйрөсүн чече алды.
Бирок, кененирээк мейкиндиктерге жана чындап эле олуттуу нерсени чечүүгө келгенде, мисалы, үлгү менен сүрөттү таануу, синхрондук которуу, кепти жана колжазманы таануу ж.б.у.с. Нейрондук тармактардын биринчи ишке ашыруулары муну жөн эле жасай алган жок. Эмне үчүн мындай? Жоопту Марвин Мински (ооба, ошол эле SNARC) жана Сеймур Паперттин изилдөөлөрү берди, алар 1969-жылы перцептрондук логиканын чектөөлөрүн далилдеп, жөнөкөй нейрон тармактарынын мүмкүнчүлүктөрүн масштабдаштыруунун эсебинен гана жогорулатуу иштебей турганын көрсөтүштү. Дагы бир, бирок абдан маанилүү тоскоолдук бар болчу - ошол кездеги эсептөө күчү нейрондук тармактарды максаттуу түрдө колдонуу үчүн өтө аз болчу.
Ошондой эле кызыктуу:
- Демек, сүйлөө же сүйлөбөө? Маск Путин менен сүйлөшкөнүн четке какты. Бирок "бирок" бар
- Заманбап артиллерия - Украинанын супер куралы. Илон Маск эмне үчүн бул жерде?
Нейрондук тармактардын ренессансы
1970-1980-жылдары нейрон тармактары дээрлик унутулуп калган. Өткөн кылымдын аягында гана жеткиликтүү эсептөө күчү ушунчалык чоң болуп, адамдар ага кайтып келип, бул тармакта өз мүмкүнчүлүктөрүн өнүктүрө башташты. Дал ошондо жаңы функциялар жана алгоритмдер пайда болгон, алар биринчи эң жөнөкөй нейрон тармактарынын чектөөлөрүн жеңе алышкан. Дал ошондо көп катмарлуу нейрон тармактарын терең машиналык үйрөнүү идеясы пайда болгон. Чынында бул катмарлар менен эмне болот? Бүгүнкү күндө биздин чөйрөдө иштеген дээрлик бардык пайдалуу нейрон тармактары көп катмарлуу. Бизде киргизүү катмары бар, анын милдети киргизүү маалыматтарды жана параметрлерди (салмактарды) алуу. Бул параметрлердин саны тармак тарабынан чечиле турган эсептөө маселесинин татаалдыгына жараша өзгөрөт.
Мындан тышкары, бизде "жашыруун катмарлар" бар - терең машина үйрөнүү менен байланышкан бардык "сыйкырлар" ушул жерде болот. Бул нейрондук тармактын керектүү эсептөөлөрдү үйрөнүү жана аткаруу жөндөмү үчүн жооптуу болгон жашыруун катмарлар. Акыр-аягы, акыркы элемент - бул чыгаруу катмары, башкача айтканда, нейрондук тармактын катмары, ал керектүү натыйжаны берет, бул учурда: таанылган колжазма, бет, үн, тексттик сүрөттөлүштүн негизинде түзүлгөн сүрөт, томографиялык анализдин натыйжасы. диагностикалык сүрөт жана башкалар.
Ошондой эле окуңуз: Мен Bing'тин чатботун сынап көрдүм жана интервью алдым
Нейрондук тармактар кантип үйрөнүшөт?
Белгилүү болгондой, нейрондук тармактардагы жеке нейрондор жеке баалуулуктар жана байланыштар ыйгарылган параметрлердин (салмактардын) жардамы менен маалыматты иштетишет. Бул салмактар окуу процессинде өзгөрүп турат, бул тармактын структурасын керектүү натыйжаны түзө тургандай кылып тууралоого мүмкүндүк берет. Тармак кантип так үйрөнөт? Көрүнүп тургандай, аны дайыма машыктырып туруу керек. Бул сөзгө таң калбаңыз. Биз да үйрөнүп жатабыз, бул процесс башаламан эмес, иреттүү, айталы. Биз муну тарбия дейбиз. Кандай болгон күндө да, нейрондук тармактарды да үйрөтсө болот жана бул, адатта, тармакты келечекте аткара турган милдеттерге даярдаган тиешелүү түрдө тандалган киргизүүлөрдүн топтомун колдонуу менен жасалат. Мына ушунун баары этап-этабы менен кайталанат, кээде окуу процесси кандайдыр бир деңгээлде окуу процессинин өзүнө окшошуп кетет.
Мисалы, бул нейрондук тармактын милдети жүздөрдү таануу болсо, анда ал беттерди камтыган көп сандагы сүрөттөрдө алдын ала даярдалган. Окуу процессинде жашырылган катмарлардын салмактары жана параметрлери өзгөрөт. Эксперттер бул жерде “чыгаша функциясын минималдаштыруу” деген сөз айкашын колдонушат. Чыгым функциясы - бул берилген нейрондук тармак канчалык ката кетирерин айтып турган чоңдук. Тренингдин натыйжасында чыгым функциясын канчалык азайта алсак, бул нейрондук тармак реалдуу дүйнөдө ошончолук жакшыраак иштейт. Кандайдыр бир нейрон тармагын классикалык алгоритм менен программаланган тапшырмадан айырмалап турган эң маанилүү өзгөчөлүк, классикалык алгоритмдерде программист программа кандай аракеттерди аткара турганын этап-этабы менен иштеп чыгышы керек. Нейрондук тармактарда, тармак өзү тапшырмаларды өз алдынча туура аткарууга үйрөнө алат. Ал эми комплекстүү нейрондук тармактын эсептөөлөрүн кантип аткарарын эч ким так билбейт.
Бүгүнкү күндө нейрон тармактары кеңири колдонулат жана, балким, таң калыштуусу, бул тармактагы эсептөө процесси чындыгында кандайча иштээрин түшүнбөй эле колдонулат. Мунун кереги жок. Программисттер белгилүү типтеги маалыматтарды киргизүү үчүн даярдалган даяр машинада үйрөнүлгөн нейрон тармактарын колдонушат, аларды өздөрүнө гана белгилүү болгон жол менен иштетип, каалаган натыйжаны беришет. Программист нейрондук тармактын ичинде корутунду процесси кандай иштээрин билиши керек эмес. Башкача айтканда, адам чоң көлөмдөгү эсептөөлөрдөн, маалыматты алуу ыкмасынан жана аны нейрондук тармактар аркылуу иштетүүдөн алыс турат. Жасалма интеллекттин моделдерине карата адамзаттын кээ бир коркуулары ушундан. Биз жөн гана бир күнү нейрондук тармак өзүнө белгилүү бир милдетти коюп, адамдын жардамысыз өз алдынча, аны чечүүнүн жолдорун табат деп коркобуз. Бул адамзатты тынчсыздандырат, машина үйрөнүү алгоритмдерин колдонууда коркуу жана ишенбөөчүлүктү жаратат.
Бул утилитардык ыкма бүгүнкү күндө кеңири таралган. Бизде да ушундай: биз кимдир-бирөөнү белгилүү бир ишке кантип үйрөтүүнү билебиз жана окутуу процесси туура жүргүзүлсө эффективдүү болорун билебиз. Адам каалаган жөндөмгө ээ болот. Бирок бул эффектке себеп болгон дедукция процессинин анын мээсинде кантип ишке ашканын так түшүнөбүзбү? Бизде эч кандай түшүнүк жок.
Окумуштуулардын милдети – бул көйгөйлөрдү мүмкүн болушунча изилдеп, алар бизге кызмат кылып, зарыл болгон жерде жардам берип, эң башкысы коркунучка айланып кетпеши үчүн. Адам катары биз билбеген нерседен коркобуз.
Ошондой эле кызыктуу: