Inihambing ng dating pinuno ng Google ang artificial intelligence sa mga sandatang nuklear

Ang dating CEO ng Google na si Eric Schmidt ay inihambing ang artificial intelligence (AI) sa mga sandatang nuklear at nanawagan para sa isang rehimeng deterrence, katulad ng mutual assured destruction, na pumipigil sa pinakamakapangyarihang mga bansa sa mundo mula sa pagwasak sa isa't isa.

Nagsalita si Schmidt tungkol sa mga panganib ng artificial intelligence sa Aspen Security Forum noong Hulyo 22 sa isang talakayan sa pambansang seguridad at AI. Nang tanungin tungkol sa halaga ng moralidad sa teknolohiya, ipinaliwanag ni Schmidt na siya mismo ay walang muwang tungkol sa kapangyarihan ng impormasyon sa mga unang araw ng Google. Pagkatapos ay nanawagan siya para sa teknolohiya upang mas mahusay na tumugma sa etika at moral ng mga taong kanilang pinaglilingkuran, at gumuhit ng kakaibang paghahambing sa pagitan ng artificial intelligence at mga sandatang nuklear.

"Hindi kami handa para sa mga negosasyon na kailangan namin." – @ericschmidt #AspenSecurity pic.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Hulyo 22, 2022

Nagsalita si Schmidt tungkol sa malapit na hinaharap, kung saan kailangang tapusin ng Tsina at Estados Unidos ang isang kasunduan sa artificial intelligence. "Noong '50s at '60s, natapos namin ang paglikha ng isang mundo kung saan mayroong 'no surprises' na panuntunan para sa nuclear testing, at bilang resulta, sila ay pinagbawalan," sabi ni Schmidt. "Ito ay isang halimbawa ng balanse ng tiwala o kawalan ng tiwala, ito ang panuntunan ng 'walang sorpresa.' Labis akong nag-aalala na ang pananaw ng US sa China bilang corrupt o komunista o anupaman, at ang pananaw ng China sa America bilang isang talunan... ay magbibigay-daan sa mga tao na magsabi ng, "Oh my God, they're up to something," at pagkatapos magsisimula ang isang bagay na hindi maintindihan... .

Ang AI at machine learning ay isang kaakit-akit at madalas na hindi maintindihang teknolohiya. Siya ay karaniwang hindi matalino tulad ng iniisip ng mga tao. Maaari itong lumikha ng obra maestra-level na artwork, talunin ang mga tao sa Starcraft II, at gumawa ng mga paunang tawag sa telepono para sa mga user. Gayunpaman, ang mga pagtatangka na gawin itong mas mahirap na mga gawain, tulad ng pagmamaneho ng kotse sa isang malaking lungsod, ay hindi naging matagumpay.

Pinag-uusapan ni Schmidt ang tungkol sa isang haka-haka na malapit na hinaharap kung saan ang China at ang US ay mag-aalala tungkol sa mga isyu sa seguridad, na pipilitin silang pumasok sa isang uri ng kasunduan na naglalaman ng AI. Naalala niya ang 1950s at 60s, nang ang diplomasya ay bumuo ng isang serye ng mga kontrol sa paligid ng mga nakamamatay na armas sa planeta. Ngunit tumagal ng isang dekada ng mga pagsabog ng nuklear at, higit sa lahat, ang pagkawasak ng Hiroshima at Nagasaki, para magkaroon ng kapayapaan bago matapos ang Nuclear Test Ban Treaty, SALT II, ​​​​at iba pang landmark na batas.

Dalawang lungsod ng Hapon na winasak ng Amerika sa pagtatapos ng Ikalawang Digmaang Pandaigdig ang kumitil sa buhay ng sampu-sampung libong tao at pinatunayan sa mundo ang walang hanggang katatakutan ng mga sandatang nuklear. Pagkatapos ang mga pamahalaan ng Russia at China ay nagmamadaling kumuha ng mga armas. Ang paraan ng pamumuhay natin na may posibilidad na gamitin ang mga sandatang ito ay tinatawag na Mutually Assured Destruction (MAD), isang teorya ng pagpigil na nagsisiguro na kung ang isang bansa ay maglulunsad ng sandatang nuklear, posible ang anumang ibang bansa. Hindi namin ginagamit ang mga pinaka-mapanirang armas sa planeta dahil sa posibilidad na ito ay sirain ang hindi bababa sa sibilisasyon sa buong mundo.

Sa kabila ng mga makukulay na komento ni Schmidt, hindi namin gusto o kailangan ang MAD para sa AI. Una, hindi pa napatunayan ng AI ang mapanirang kapangyarihan nito kumpara sa mga sandatang nuklear. Ngunit ang mga taong nasa kapangyarihan ay natatakot sa bagong teknolohiyang ito, at kadalasan sa mga maling dahilan. Iminungkahi pa ng mga tao na ibigay ang kontrol sa mga sandatang nukleyar sa isang artificial intelligence, sa paniniwalang ito ay magiging isang mas mahusay na tagapamagitan ng paggamit nito kaysa sa isang tao.

Ang problema sa artificial intelligence ay hindi dahil mayroon itong potensyal na mapanirang kapangyarihan ng isang sandatang nuklear. Ang punto ay ang artificial intelligence ay kasinghusay lamang ng mga taong bumuo nito, at dala nito ang mga halaga ng mga lumikha nito. Ang AI ay dumaranas ng klasikong problemang "papasok ng basura, palabasin ang basura": ang mga racist algorithm ay gumagawa ng mga racist na robot, at lahat ng AI ay nagdadala ng mga bias ng mga lumikha nito.

Si Demis Hassabis, CEO ng DeepMind, ang kumpanyang nagsanay sa AI na tinatalo ang mga manlalaro ng Starcraft II, ay tila mas naiintindihan ito kaysa kay Schmidt. Sa isang panayam sa Hulyo sa podcast ni Lex Friedman, tinanong ni Friedman si Hassabis kung paano makokontrol ang isang teknolohiya na kasing lakas ng AI, at kung paano maiiwasan ni Hassabis ang kanyang sarili na masira ng kapangyarihang iyon.

Ang sagot ni Khasabis ay tungkol sa kanyang sarili. "Ang artificial intelligence ay masyadong malaking ideya," sabi niya. "Mahalaga kung sino ang lumikha ng AI, kung anong mga kultura ang kanilang pinanggalingan at kung ano ang kanilang mga halaga. Ang mga AI system ay matututo nang mag-isa... ngunit ang sistema ay mananatiling nakaimprenta sa kultura at mga halaga ng mga may-akda ng system."

Ang artificial intelligence ay isang salamin ng may-akda nito. Hindi nito masisira ang isang lungsod sa lupa na may 1,2 megaton na pagsabog. Maliban kung may nagtuturo sa kanya nito.

Matutulungan mo ang Ukraine na labanan ang mga mananakop na Ruso. Ang pinakamahusay na paraan upang gawin ito ay ang mag-abuloy ng mga pondo sa Armed Forces of Ukraine sa pamamagitan ng Savelife o sa pamamagitan ng opisyal na pahina NBU.

Basahin din:

• Bagong application Samsung gumagamit ng AI para pagbutihin ang iyong mga larawan
• Ang artificial intelligence ay nakakatulong sa pagkilala ng mga astronomical na bagay