Mįslingas Projektas Q* iš OpenAI kelia susirūpinimą tarp ekspertų. Ar jis tikrai gali būti pavojingas žmonijai? Kas apie jį žinoma? Po to, kai Sam Altman iš pradžių buvo atleistas praėjusią savaitę ir jis su komanda beveik persikėlė į Microsoft, tada jis grįžo į savo darbo vietą (apie tai rašėme čia), OpenAI vėl yra naujienose. Šį kartą dėl to, ką kai kurie tyrinėtojai vadina galima grėsme žmonijai. Taip, jūs teisingai perskaitėte, grėsmė žmonijai.
Tikrąjį perversmą technologijų pasaulyje sukėlė Project Q* – neatskleistas bendrojo dirbtinio intelekto (AGI) projektas – išryškinta Q-Star. Nors šis projektas yra pradiniame etape, jis laikomas tikrai novatorišku AGI plėtroje. Tačiau kai kurie tai vertina kaip pavojų žmonijai.
Slaptas dirbtinio intelekto projektas, sukurtas garsiosios dirbtinio intelekto laboratorijos OpenAI, gali sukelti perversmą technologijose ir apskritai visuomenėje. Tačiau tai taip pat kelia tam tikrų etinių klausimų apie riziką. Aiškėjant detalėms apie stulbinančius projekto Q* pajėgumus, atsiranda vis daugiau spėlionių, ką tai gali reikšti žmonijos ateičiai.
Taip pat įdomu: OpenAI istorija: kas tai buvo ir kas laukia įmonės
Kas yra dirbtinis bendrasis intelektas (AGI)?
Norėdami suprasti ažiotažą apie projektą Q* (Q-Star), pirmiausia pabandykime suprasti, kas yra dirbtinio bendrojo intelekto (AGI) sąvoka. Nors dabartinės AI sistemos puikiai atlieka siauras, specifines užduotis, tokias kaip žaidimas šachmatais ar vaizdų generavimas, bendras AI reiškia mašinas, kurios gali mokytis ir mąstyti žmogaus lygiu daugelyje sričių. Tai yra, jie gali mokytis kaip maži vaikai mokykloje, pavyzdžiui, matematikos, chemijos, biologijos ir kt.
Bendrasis dirbtinis intelektas (AGI) yra mašininio intelekto tipas, galintis hipotetiškai imituoti žmogaus intelektą ar elgesį, gebantis mokytis ir pritaikyti šį potencialą sprendžiant įvairias problemas. AGI taip pat vadinamas stipriu dirbtiniu intelektu, visišku dirbtiniu intelektu arba žmogaus lygio dirbtiniu intelektu. Bendrasis dirbtinis intelektas skiriasi nuo silpno ar siauro AI, kuris gali atlikti tik konkrečias ar specializuotas užduotis pagal tam tikrus parametrus. ZHI gebės savarankiškai spręsti įvairias sudėtingas įvairių žinių sričių problemas.
Dirbtinio intelekto kūrimas yra pagrindinis tokių įmonių kaip DeepMind ir Anthropic dirbtinio intelekto tyrimų tikslas. CSI yra labai populiari mokslinės fantastikos literatūros tema ir gali turėti įtakos būsimiems tyrimams. Vieni teigia, kad UCI galima sukurti per metus ar dešimtmečius, o kiti teigia, kad tai gali užtrukti šimtmetį ar daugiau. Tačiau yra manančių, kad to niekada nepavyks pasiekti. Kai kurie matė GPT-3 URI pradžią, tačiau atrodo, kad jis vis dar toli gražu neatitinka pagrindinių kriterijų.
Dirbtinio bendrojo intelekto (AGI) sukūrimą tyrinėtojai laiko šventuoju dirbtinio intelekto graliu – teorine galimybe, kuri jau seniai žavėjo jų vaizduotę. Todėl tokio projekto kaip OpenAI Project Q* pasirodymas sukėlė didelį rezonansą dirbtinio intelekto algoritmų tyrimų pasaulyje. Nors visi supranta, kad tai tik pirmi žingsniai, beveik aklai, į pasaulį, kuriame dirbtinis intelektas turės tokias pačias galimybes kaip ir žmogus, ar net aukštesnes.
Taip pat įdomu: Viskas apie Microsoft Antrasis pilotas: ateitis ar neteisingas kelias?
Kas yra projektas Q*?
Projektas Q* nėra tipiškas algoritmas, nes tai dirbtinio intelekto modelis, vis labiau artėjantis prie dirbtinio bendrojo intelekto (AGI) modelio. Tai reiškia, kad skirtingai nei ChatGPT, Project Q* rodo geresnius mąstymo ir pažinimo įgūdžius, palyginti su kitais algoritmais. Šiuo metu „ChatGPT“ atsako į užklausas, pagrįstas daugybe faktinės medžiagos, tačiau naudojant AGI, AI modelis išmoks samprotauti ir gebės mąstyti bei suprasti pats. Jau žinoma, kad projektas Q* gali išspręsti paprastas matematines problemas, kurios nebuvo jo mokymo medžiagoje. Kai kurie tyrėjai mato reikšmingą žingsnį bendrojo dirbtinio intelekto (AGI) kūrimo link. OpenAI apibrėžia AGI kaip dirbtinio intelekto sistemas, kurios yra protingesnės už žmones.
Projekto Q* plėtrai vadovauja OpenAI vyriausiasis tyrėjas Ilja Sutzkeveris, o jo pagrindus pagrindė mokslininkai Jakub Pakhotsky ir Shimon Sidor.
Algoritmo galimybė savarankiškai išspręsti matematines problemas, net jei šios problemos nebuvo mokymo duomenų rinkinio dalis, yra laikomas proveržiu dirbtinio intelekto srityje. Nesutarimai komandoje dėl šio projekto yra susiję su laikinu OpenAI generalinio direktoriaus Samo Altmano pašalinimu. Yra žinoma, kad prieš atleidžiant Altmaną, grupė įmonės tyrėjų direktorių tarybai išsiuntė laišką, įspėjantį apie AI, galinčio kelti grėsmę žmonijai, atradimą. Tas laiškas, kuriame, kaip pranešama, buvo aptartas projekto Q* algoritmas, buvo nurodytas kaip vienas iš veiksnių, lėmusių Altmano atleidimą. Tačiau projekto Q* galimybės ir galima rizika, kurią jis gali kelti, nėra visiškai suprantamos, nes detalės nežinomos. Plačiajai visuomenei niekas nebuvo paskelbta.
Projekto Q* esmė yra mokymosi be modelio sustiprinimo metodas, kuris skiriasi nuo tradicinių modelių ir nereikalauja išankstinių žinių apie aplinką. Vietoj to, jis mokosi per patirtį, pritaikydamas veiksmus, pagrįstus apdovanojimais ir bausmėmis. Technikos ekspertai mano, kad projektas Q* galės įgyti išskirtinių galimybių, įgydamas gebėjimų, panašių į žmogaus pažinimo gebėjimus.
Tačiau būtent ši naujajame dirbtinio intelekto modelyje įspūdingiausia savybė kelia nerimą tyrėjams ir kritikams bei kelia baimę dėl technologijos pritaikymo realiame pasaulyje ir su tuo susijusių pavojų. Ko taip bijo mokslininkai ir tyrinėtojai? Išsiaiškinkime.
Taip pat įdomu: Kaip atnaujinti namų įrenginius, kad jie palaikytų „Wi-Fi“ 6
Jie bijo nežinomybės
Žmonės visada bijojo to, kas nežinoma, to, kas nepažinta. Tai yra žmogaus esmė, mūsų charakterio ir gyvenimo būdo bruožas.
Technologijų pasaulis apie projektą Q* sužinojo 2023 m. lapkritį po „Reuters“. pranešė apie vidinį laišką, kurį parašė susirūpinę OpenAI tyrinėtojai. Laiško turinys buvo neaiškus, tačiau, kaip pranešama, jame buvo rimtai išanalizuotos projekto Q* galimybės. Kaip jau minėjau aukščiau, netgi spėliojama, kad būtent šis laiškas paskatino Samo Altmano atsistatydinimą.
Šis sprogstamasis atradimas sukėlė įvairių hipotezių dėl projekto Q* pobūdžio. Mokslininkai pasiūlė, kad tai galėtų būti revoliucinis natūralios kalbos modelis dirbtiniam intelektui. Savotiškas naujų algoritmų išradėjas, kuris sukurs juos kitoms AI formoms arba visai kas kitai šioje srityje.
Altmano provokuojantys komentarai apie bendrą dirbtinį intelektą kaip „vidutinį darbuotoją“ jau sukėlė susirūpinimą dėl darbo saugumo ir nesustabdomo AI įtakos plėtimosi. Šis paslaptingas algoritmas apibrėžiamas kaip pagrindinis dirbtinio bendro intelekto (AGI) plėtros etapas. Tačiau visi supranta, kad šis etapas yra brangus. Ir tai dabar ne apie pinigus. Naujojo AI modelio pažadėtas pažinimo įgūdžių lygis neša neapibrėžtumą. OpenAI mokslininkai žada, kad dirbtinis intelektas mąstys žmogaus lygiu. O tai reiškia, kad daugelio dalykų negalime žinoti ir numatyti pasekmių. Ir kuo daugiau nežinomybės, tuo sunkiau pasiruošti ją suvaldyti ar sutvarkyti. Tai yra, naujasis algoritmas gali tobulėti ir tobulėti. Tai mes jau kažkur matėme...
Taip pat įdomu: „Windows 12“: kokia bus nauja OS
Nuostabi informacija apie projekto Q galimybes*
Kai pradėjo atsirasti daugiau informacijos, tai sukrėtė daugelį tyrinėtojų. Pirmieji požymiai rodė, kad projektas Q* turėjo nuostabų matematikos gabumą. Skirtingai nuo skaičiuotuvo, kuris atlieka mechaninius skaičiavimus, Project Q* gali naudoti logiką ir samprotavimus sudėtingoms matematikos problemoms spręsti. Šis matematinis gebėjimas apibendrinti rodo plataus intelekto išsivystymą.
Savarankiškas projekto Q* mokymas be specifinių duomenų rinkinių, naudojamų tipiškoms AI mokyti, taip pat bus didžiulis žingsnis į priekį. Lieka nežinoma, ar Project Q* įvaldė kokių nors kitų įgūdžių. Tačiau jo matematiniai gebėjimai patys savaime tokie nuostabūs, kad klaidina net patyrusius tyrinėtojus.
Taip pat skaitykite: Žmogaus smegenų projektas: bandymas imituoti žmogaus smegenis
Projekto Q* kelias į dominavimą?
Šiuo klausimu yra ir optimistinių, ir pesimistinių scenarijų. Optimistai sakys, kad projektas Q* gali būti ta kibirkštis, kuri veda į technologinį proveržį. Sistemai rekursyviai tobulėjant, jos antgamtinis intelektas gali padėti išspręsti kai kurias svarbiausias žmonijos problemas – nuo klimato kaitos iki ligų kontrolės. Projektas Q* gali automatizuoti nuobodų darbą ir atlaisvinti mūsų laisvo laiko kitai veiklai.
Nors yra daug pesimistiškesnių variantų. Kartais jie yra gana pagrįsti ir turi tam tikrą prasmę.
Darbų praradimas
Spartūs technologijų vystymosi pokyčiai gali pranokti individualų žmonių prisitaikymą. Dėl to bus prarasta viena ar kelios kartos, kurios negalės įgyti reikiamų įgūdžių ar žinių prisitaikyti prie naujos realybės. Tai yra, tai savo ruožtu reiškia, kad mažiau žmonių galės išlaikyti savo darbą. Vietoj to tai atliks mašinos, automatizuotos sistemos ir robotai. Tačiau atsakymas nėra toks aiškus, kai kalbama apie kvalifikuotus specialistus. Be to, gali atsirasti naujų profesijų, susijusių būtent su dirbtinio intelekto algoritmų kūrimu. Tačiau rizika vis dar egzistuoja, ir žmonija neturi teisės jų ignoruoti.
Nekontroliuojamos galios pavojus
Jei toks galingas dirbtinis intelektas kaip projektas Q* pateks į niekšiškų ketinimų turinčių žmonių rankas, tai gali sukelti katastrofiškų padarinių žmonijai. Net ir be potencialiai piktų ketinimų, projekto Q* sprendimų priėmimo lygis gali sukelti žalingų pasekmių, o tai pabrėžia, kad labai svarbu atidžiai įvertinti jo taikymą.
Jei projektas Q* yra prastai optimizuotas žmonių poreikiams, jis gali pakenkti, nes gali maksimaliai padidinti kai kurias savavališkas metrikas. Arba jis gali turėti politinį aspektą, pavyzdžiui, būti naudojamas valstybės priežiūrai ar represijoms. Atviros diskusijos apie projekto Q* poveikio analizę padės apibrėžti galimus ZHI kūrimo scenarijus.
Ar laukiame „Žmogus prieš mašiną“?
Holivudas savo filmuose jau sukūrė ne vieną tokios akistatos scenarijų. Visi prisimename garsųjį „SkyNet“ ir tokio atradimo pasekmes. Galbūt OpenAI mokslininkai turėtų dar kartą pažiūrėti šį filmą?
Žmonija turi priimti signalus ir iššūkius bei būti pasiruošusi tam, kas gali nutikti. Dirbtinio intelekto modelis, galintis mąstyti kaip žmogus, kada nors gali tapti mūsų priešu. Daugelis ginčytųsi, kad ateityje mokslininkai tiksliai žinos, kaip suvaldyti situaciją. Tačiau kalbant apie mašinas, negalite visiškai atmesti galimybės, kad jos bandys užvaldyti žmones.
Taip pat įdomu: Ne viskas, ką vadiname AI, iš tikrųjų yra dirbtinis intelektas. Štai ką reikia žinoti
Kodėl OpenAI tyli?
Nepaisant didžiulio visuomenės susidomėjimo Project Q*, OpenAI vadovybė tyli apie algoritmo specifiką. Tačiau vidinis nutekėjimas rodo didėjančią įtampą laboratorijoje dėl prioritetų ir pokyčių atvirumo. Nors daugelis „OpenAI“ viešai neatskleistų asmenų palaiko projekto Q* sukūrimą, kritikai teigia, kad skaidrumas atsisakė mokslo pažangos bet kokia kaina spartinimo. O kai kurie tyrinėtojai susirūpinę, kad neįtikėtina galia suteikiama sistemoms, kurių tikslai nebūtinai sutampa su žmogiškosiomis vertybėmis ir etika. Šie tyrinėtojai mano, kad diskusijos apie priežiūrą ir atskaitomybę tapo pavojingai nutildytos. Jie reikalauja daugiau viešumo ir detalių.
Kaip projekto Q* kūrėjai, OpenAI turi suprasti, kad jie turi technologiją, kuri gali arba labai praplėsti visuomenės vystymosi galimybes, arba negailestingai ją sunaikinti. Tokios reikšmingos naujovės nusipelno daug didesnio skaidrumo, kad būtų stiprinamas visuomenės pasitikėjimas. Bet kokie mašinos amžiaus prognozuotojai turi atidžiai pasverti riziką ir naudą. Ir projekto Q* kūrėjai turi parodyti pakankamai išminties ir svarstymo, kad saugiai įvestų visuomenę į naują bendrojo dirbtinio intelekto erą, kuri gali ateiti greičiau, nei mes kada nors įsivaizdavome.
Kad bendras dirbtinis intelektas būtų naudingas ir saugus žmonijai, reikia užtikrinti, kad jis veiktų saugiai, etiškai ir pagal žmonijos vertybes bei tikslus. Tam reikia parengti ir įgyvendinti atitinkamus norminius aktus, standartus, taisykles ir protokolus, kurie kontroliuotų ir apribotų CSI veiksmus ir elgesį. Be to, turi būti pašalintos galimos grėsmės ir rizika, susijusi su piktnaudžiavimu, nelaimingais atsitikimais, nesuderinamumu, manipuliacijomis ir konfliktais, galinčiais sukelti žmonijos sunaikinimą. Tuo tarpu investuotojai ir Microsoft nekantriai laukia prekinės prekės, galinčios generuoti pelną, o tai neabejotinai prieštarauja būtinybei elgtis atsakingai. Tikėkimės sveikas protas nugalės.
Taip pat skaitykite: