Mahiwaga Project Q* mula sa OpenAI ay nagdudulot ng pag-aalala sa mga eksperto. Mapanganib ba talaga siya para sa sangkatauhan? Ano ang nalalaman tungkol sa kanya? Matapos si Sam Altman ay unang sinibak noong nakaraang linggo at siya at ang koponan ay halos lumipat sa Microsoft, pagkatapos ay bumalik siya sa kanyang pinagtatrabahuan (tungkol dito nagsulat kami dito), nasa balita na naman ang OpenAI. Sa pagkakataong ito ay dahil sa tinatawag ng ilang mananaliksik na posibleng banta sa sangkatauhan. Oo, tama ang nabasa mo, isang banta sa sangkatauhan.
Ang tunay na kaguluhan sa mundo ng teknolohiya ay dulot ng Project Q* - isang hindi natukoy na proyekto ng general artificial intelligence (AGI) - binibigkas na Q-Star. Bagama't ang proyektong ito ay nasa maagang yugto, ito ay itinuturing na tunay na groundbreaking sa mga pagpapaunlad ng AGI. Gayunpaman, nakikita ito ng ilan bilang isang panganib sa sangkatauhan.
Ang isang lihim na proyekto ng artificial intelligence na binuo ng sikat na artificial intelligence laboratory na OpenAI ay may potensyal na baguhin ang teknolohiya at lipunan sa pangkalahatan. Ngunit nagtataas din ito ng ilang mga tanong na etikal tungkol sa mga panganib. Habang lumalabas ang mga detalye tungkol sa mga kahanga-hangang kakayahan ng Project Q*, parami nang parami ang mga haka-haka tungkol sa kung ano ang maaaring maging kahulugan nito para sa kinabukasan ng sangkatauhan.
Kawili-wili din: Kasaysayan ng OpenAI: Ano ito at kung ano ang hinaharap para sa kumpanya
Ano ang Artificial General Intelligence (AGI)?
Upang maunawaan ang hype na nakapalibot sa Project Q* (Q-Star), subukan muna nating maunawaan kung ano ang kahulugan ng Artificial General Intelligence (AGI). Bagama't ang mga kasalukuyang AI system ay mahusay sa makitid, partikular na mga gawain tulad ng paglalaro ng chess o pagbuo ng mga imahe, ang pangkalahatang AI ay tumutukoy sa mga makina na maaaring matuto at mag-isip sa antas ng tao sa maraming domain. Ibig sabihin, maaari silang mag-aral tulad ng maliliit na bata sa paaralan, halimbawa, ang mga pangunahing kaalaman sa matematika, kimika, biology, atbp.
Ang General Artificial Intelligence (AGI) ay isang uri ng machine intelligence na maaaring gayahin ang katalinuhan o pag-uugali ng tao, na may kakayahang matuto at magamit ang potensyal na iyon upang malutas ang iba't ibang mga problema. Ang AGI ay tinatawag ding malakas na artificial intelligence, full artificial intelligence, o artificial intelligence sa antas ng tao. Ang Pangkalahatang AI ay naiiba sa mahina o makitid na AI, na may kakayahang magsagawa lamang ng mga partikular o espesyal na gawain sa loob ng mga ibinigay na parameter. Ang ZHI ay makapag-iisa na malulutas ang iba't ibang kumplikadong problema mula sa iba't ibang larangan ng kaalaman.
Ang paglikha ng artificial intelligence ay ang pangunahing pokus ng pananaliksik sa artificial intelligence ng mga kumpanya tulad ng DeepMind at Anthropic. Ang CSI ay isang napaka-tanyag na paksa sa science fiction literature at maaaring humubog sa hinaharap na pananaliksik. Ang ilan ay nangangatuwiran na posibleng lumikha ng isang UCI sa loob ng mga taon o dekada, habang ang iba naman ay nangangatuwiran na maaaring tumagal ito ng isang siglo o higit pa. Ngunit may mga naniniwala na hinding-hindi ito makakamit. Nakita na ng ilan ang simula ng isang URI sa GPT-3, ngunit tila malayo pa rin ito sa pagtugon sa mga pangunahing pamantayan.
Ang paglikha ng artificial general intelligence (AGI) ay itinuturing ng mga mananaliksik bilang banal na grail ng artificial intelligence, isang teoretikal na posibilidad na matagal nang nakakuha ng kanilang imahinasyon. Samakatuwid, ang hitsura ng naturang proyekto bilang OpenAI Project Q* ay nagdulot ng isang mahusay na resonance sa mundo ng pananaliksik sa algorithm ng artificial intelligence. Bagama't nauunawaan ng lahat na ang mga ito ay mga unang hakbang lamang, halos walang taros, patungo sa isang mundo kung saan ang artificial intelligence ay magkakaroon ng parehong mga kakayahan tulad ng mga tao, o mas mataas pa.
Kawili-wili din: Ang lahat ng tungkol sa Microsoft Copilot: ang hinaharap o ang maling paraan?
Ano ang Project Q*?
Ang Project Q* ay hindi isang pangkaraniwang algorithm dahil isa itong modelo ng artificial intelligence na lalong lumalapit sa modelo ng artificial general intelligence (AGI). Nangangahulugan ito na, hindi tulad ng ChatGPT, ang Project Q* ay nagpapakita ng mas mahusay na pag-iisip at mga kasanayan sa pag-iisip kumpara sa iba pang mga algorithm. Kasalukuyang tumutugon ang ChatGPT sa mga query batay sa napakaraming materyal na makatotohanan, ngunit sa AGI, matututo ang modelo ng AI ng pangangatwiran at ang kakayahang mag-isip at maunawaan para sa sarili nito. Alam na na ang Project Q* ay may kakayahang lutasin ang mga simpleng problema sa matematika na hindi bahagi ng materyal sa pagsasanay nito. Dito, nakikita ng ilang mananaliksik ang isang makabuluhang hakbang patungo sa paglikha ng pangkalahatang artificial intelligence (AGI). Tinutukoy ng OpenAI ang AGI bilang mga artificial intelligence system na mas matalino kaysa sa mga tao.
Ang pagbuo ng Project Q* ay pinamamahalaan ng punong siyentipiko ng OpenAI na si Ilya Sutzkever, at ang batayan nito ay pinatunayan ng mga mananaliksik na sina Jakub Pakhotsky at Shimon Sidor.
Ang kakayahan ng isang algorithm na malutas ang mga problema sa matematika sa sarili nitong, kahit na ang mga problemang ito ay hindi bahagi ng set ng data ng pagsasanay, ay itinuturing na isang pambihirang tagumpay sa larangan ng artificial intelligence. Ang mga hindi pagkakasundo sa koponan tungkol sa proyektong ito ay nauugnay sa pansamantalang pagtanggal sa OpenAI CEO na si Sam Altman. Nabatid na bago si Altman ay tinanggal, isang grupo ng mga mananaliksik ng kumpanya ay nagpadala ng isang liham sa board of directors na nagbabala tungkol sa pagkatuklas ng AI na maaaring magdulot ng banta sa sangkatauhan. Ang liham na iyon, na iniulat na tinalakay ang Project Q* algorithm, ay binanggit bilang isa sa mga kadahilanan na humantong sa pagpapaputok kay Altman. Gayunpaman, ang mga kakayahan ng Project Q* at ang mga potensyal na panganib na maaaring idulot nito ay hindi lubos na nauunawaan dahil ang mga detalye ay hindi alam. Walang inilabas sa pangkalahatang publiko.
Sa esensya, ang Project Q* ay isang modelong-free reinforcement learning method na umaalis sa mga tradisyonal na modelo sa pamamagitan ng hindi nangangailangan ng paunang kaalaman sa kapaligiran. Sa halip, natututo ito sa pamamagitan ng karanasan, nakikibagay sa mga aksyon batay sa mga gantimpala at parusa. Naniniwala ang mga teknikal na eksperto na ang Project Q* ay makakamit ang mga natitirang kakayahan sa pamamagitan ng pagkakaroon ng mga kakayahan na katulad ng mga kakayahan sa pag-iisip ng tao.
Gayunpaman, ang tampok na ito ang pinaka-kahanga-hanga sa bagong modelo ng artificial intelligence na nag-aalala sa mga mananaliksik at mga kritiko at nagpapataas ng kanilang mga takot tungkol sa mga real-world na aplikasyon ng teknolohiya at ang mga nakapaloob na panganib na kasangkot. Ano ang kinatatakutan ng mga siyentipiko at mananaliksik? Alamin natin ito.
Kawili-wili din: Paano i-update ang iyong mga device sa bahay upang suportahan ang Wi-Fi 6
Natatakot sila sa hindi alam
Ang mga tao ay palaging natatakot sa hindi alam, hindi alam. Ito ang kakanyahan ng tao, isang katangian ng ating pagkatao at paraan ng pamumuhay.
Natutunan ng mundo ng teknolohiya ang tungkol sa Project Q* noong Nobyembre 2023 pagkatapos ng Reuters iniulat tungkol sa isang panloob na liham na isinulat ng mga nag-aalalang mananaliksik ng OpenAI. Malabo ang nilalaman ng liham, ngunit iniulat na seryoso nitong sinuri ang mga kakayahan ng Project Q*. Tulad ng nabanggit ko sa itaas, may mga haka-haka na ang liham na ito ang nag-trigger sa pagbibitiw ni Sam Altman.
Ang pagsabog na pagtuklas na ito ay nagbigay ng iba't ibang hypotheses tungkol sa katangian ng Project Q*. Iminungkahi ng mga siyentipiko na maaaring ito ay isang rebolusyonaryong natural na modelo ng wika para sa AI. Isang uri ng imbentor ng mga bagong algorithm na gagawa ng mga ito para sa iba pang mga anyo ng AI, o isang bagay na ganap na naiiba sa larangang ito.
Ang mga nakakapukaw na komento ni Altman tungkol sa pangkalahatang artificial intelligence bilang "average na empleyado" ay nagtaas na ng mga alalahanin tungkol sa seguridad sa trabaho at ang hindi mapigilang pagpapalawak ng impluwensya ng AI. Ang mahiwagang algorithm na ito ay tinukoy bilang isang milestone sa pagbuo ng Artificial General Intelligence (AGI). Gayunpaman, naiintindihan ng lahat na ang milestone na ito ay mahal. At hindi ito tungkol sa pera ngayon. Ang antas ng mga kasanayang nagbibigay-malay na ipinangako ng bagong modelo ng AI ay nagdadala ng kawalan ng katiyakan. Nangangako ang mga siyentipiko ng OpenAI na ang AI ay magkakaroon ng antas ng pag-iisip ng tao. At nangangahulugan ito na hindi natin malalaman ang maraming bagay at mahulaan ang mga kahihinatnan. At kung mas hindi alam, mas mahirap maghanda upang kontrolin o ayusin ito. Iyon ay, ang bagong algorithm ay may kakayahang pagpapabuti ng sarili at pag-unlad. Nakita na natin ito sa isang lugar...
Kawili-wili din: Windows 12: Ano ang magiging bagong OS
Mga kamangha-manghang detalye tungkol sa mga kakayahan ng Project Q*
Nang magsimulang lumitaw ang higit pang impormasyon, nagulat ang maraming mananaliksik. Ang mga unang indikasyon ay ang Project Q* ay may kamangha-manghang kakayahan sa matematika. Hindi tulad ng isang calculator na nagsasagawa ng mga mekanikal na kalkulasyon, ang Project Q* ay maaaring gumamit ng lohika at pangangatwiran upang malutas ang mga kumplikadong problema sa matematika. Ang kakayahang mathematical na ito na gawing pangkalahatan ang mga pahiwatig sa pagbuo ng isang malawak na katalinuhan.
Ang autonomous na pagsasanay ng Project Q*, nang walang mga partikular na dataset na ginagamit upang sanayin ang mga tipikal na AI, ay magiging isang malaking hakbang pasulong. Ito ay nananatiling hindi alam kung ang Project Q* ay pinagkadalubhasaan ang anumang iba pang mga kasanayan. Ngunit ang kanyang mga kakayahan sa matematika ay napakaganda sa kanilang sarili na nalilito nila kahit na ang mga may karanasang mananaliksik.
Basahin din: Human Brain Project: Isang pagtatangka na gayahin ang utak ng tao
Ang landas ng Project Q* tungo sa pangingibabaw?
Mayroong parehong optimistiko at pesimistikong mga senaryo sa bagay na ito. Sasabihin ng mga optimist na ang Project Q* ay maaaring maging spark na humahantong sa isang teknolohikal na tagumpay. Habang paulit-ulit na nagpapabuti ang system sa sarili, ang supernatural na katalinuhan nito ay maaaring makatulong sa paglutas ng ilan sa pinakamahahalagang problema ng sangkatauhan, mula sa pagbabago ng klima hanggang sa pagkontrol sa sakit. Maaaring i-automate ng Project Q* ang nakakainip na trabaho at palayain ang ating libreng oras para sa iba pang aktibidad.
Bagaman marami pang mga pessimistic na opsyon. Minsan, medyo makatwiran ang mga ito at may tiyak na kahulugan.
Pagkawala ng trabaho
Ang mabilis na pagbabago sa pag-unlad ng teknolohiya ay maaaring higitan ang indibidwal na pagbagay ng mga tao. Ito ay hahantong sa pagkawala ng isa o higit pang henerasyon na hindi makakamit ang mga kinakailangang kasanayan o kaalaman upang umangkop sa mga bagong katotohanan. Ibig sabihin, ito naman, ay nangangahulugan na mas kaunting mga tao ang magagawang panatilihin ang kanilang mga trabaho. Ito ay isasagawa sa halip ng mga makina, automated system, at robot. Gayunpaman, ang sagot ay hindi masyadong malinaw pagdating sa mga kwalipikadong espesyalista. Bilang karagdagan, maaaring lumitaw ang mga bagong propesyon na partikular na nauugnay sa pagbuo ng mga algorithm ng artificial intelligence. Ngunit may mga panganib pa rin, at ang sangkatauhan ay walang karapatang balewalain ang mga ito.
Ang panganib ng walang kontrol na kapangyarihan
Kung ang isang AI na kasinglakas ng Project Q* ay mahuhulog sa mga kamay ng mga may karumal-dumal na intensyon, nanganganib ito ng mga sakuna na kahihinatnan para sa sangkatauhan. Kahit na walang potensyal na malisyosong layunin, ang antas ng paggawa ng desisyon ng Project Q* ay maaaring humantong sa mga mapaminsalang resulta, na binibigyang-diin ang kritikal na kahalagahan ng maingat na pagsusuri ng aplikasyon nito.
Kung ang Project Q* ay hindi gaanong na-optimize para sa mga pangangailangan ng tao, maaari itong magdulot ng pinsala sa kakayahan nitong i-maximize ang ilang arbitrary na sukatan. O maaaring mayroon itong dimensyon sa pulitika, gaya ng paggamit para sa pagsubaybay o panunupil ng estado. Ang isang bukas na debate tungkol sa pagsusuri ng epekto ng Project Q* ay makakatulong upang tukuyin ang mga posibleng senaryo para sa pagbuo ng ZHI.
Nasa isang "Man vs. Machine" showdown ba tayo?
Nakagawa na ang Hollywood ng maraming senaryo ng naturang paghaharap sa mga pelikula nito. Naaalala nating lahat ang sikat na SkyNet at ang mga kahihinatnan ng naturang pagtuklas. Siguro dapat panoorin muli ng mga mananaliksik ng OpenAI ang pelikulang ito?
Kailangang tanggapin ng sangkatauhan ang mga senyales at hamon at maging handa sa maaaring mangyari. Ang isang modelo ng artificial intelligence na may kakayahang mag-isip tulad ng isang tao ay maaaring maging kaaway natin balang araw. Marami ang magtaltalan na sa hinaharap ay malalaman ng mga siyentipiko kung paano panatilihing kontrolado ang sitwasyon. Ngunit pagdating sa mga makina, hindi mo lubos na maaalis ang posibilidad na susubukan nilang sakupin ang mga tao.
Kawili-wili din: Hindi lahat ng tinatawag nating AI ay talagang artificial intelligence. Narito ang kailangan mong malaman
Bakit tahimik ang OpenAI?
Sa kabila ng siklab ng interes ng publiko sa Project Q*, ang pamamahala ng OpenAI ay nananatiling tahimik tungkol sa mga detalye ng algorithm. Ngunit ang panloob na pagtagas ay nagpapakita ng lumalaking tensyon sa lab sa mga priyoridad at pagiging bukas ng mga pag-unlad. Bagama't maraming tagaloob ng OpenAI ang sumusuporta sa paglikha ng Project Q*, ang mga kritiko ay nangangatwiran na ang transparency ay nagsagawa ng backseat upang mapabilis ang pag-unlad ng siyensya sa anumang halaga. At ang ilang mga mananaliksik ay nag-aalala na ang hindi kapani-paniwalang kapangyarihan ay ibinibigay sa mga sistema na ang mga layunin ay hindi kinakailangang tumutugma sa mga halaga at etika ng tao. Naniniwala ang mga mananaliksik na ito na ang mga debate tungkol sa pangangasiwa at pananagutan ay naging mapanganib na naka-mute. Nangangailangan sila ng mas maraming publisidad at mga detalye.
Bilang mga tagalikha ng Project Q*, dapat maunawaan ng OpenAI na mayroon silang teknolohiya na maaaring lubos na mapalawak ang mga posibilidad ng pag-unlad ng lipunan, o walang awa na sirain ito. Ang ganitong mga makabuluhang pagbabago ay karapat-dapat ng higit na transparency upang bumuo ng tiwala ng publiko. Dapat maingat na timbangin ng sinumang prognosticator sa edad ng makina ang mga panganib kasama ng mga benepisyo. At ang mga developer ng Project Q* ay kailangang magpakita ng sapat na karunungan at pangangalaga upang ligtas na maihatid ang lipunan sa isang bagong panahon ng pangkalahatang artificial intelligence na maaaring dumating nang mas maaga kaysa sa naisip natin.
Upang maging kapaki-pakinabang at ligtas para sa sangkatauhan ang pangkalahatang artificial intelligence, dapat itong tiyakin na ito ay gumagana nang ligtas, etikal, at alinsunod sa mga halaga at layunin ng sangkatauhan. Nangangailangan ito ng pagbuo at pagpapatupad ng mga naaangkop na batas sa regulasyon, pamantayan, panuntunan at protocol na kumokontrol at pipigil sa mga aksyon at pag-uugali ng CSI. Bilang karagdagan, ang mga potensyal na banta at panganib na nauugnay sa mga pang-aabuso, aksidente, hindi pagkakatugma, manipulasyon at mga salungatan na maaaring humantong sa pagkawasak ng sangkatauhan ay dapat na alisin. Samantala, ang mga mamumuhunan at Microsoft sabik na naghihintay para sa isang mabibiling produkto na maaaring kumita, na walang alinlangan na sumasalungat sa pangangailangang kumilos nang responsable. Sana manaig ang common sense.
Basahin din: