Мистериозно Проект Q* од OpenAI предизвикува загриженост кај експертите. Дали тој навистина може да биде опасен за човештвото? Што се знае за него? Откако Сем Алтман првично беше отпуштен минатата недела и тој и тимот речиси се преселија во Microsoft, потоа се вратил на своето работно место (за тоа напишавме овде), OpenAI е повторно во вестите. Овој пат поради она што некои истражувачи го нарекуваат можна закана за човештвото. Да, добро прочитавте, закана за човештвото.
Вистинскиот пресврт во светот на технологијата беше предизвикан од Project Q* - неоткриен проект на општа вештачка интелигенција (AGI) - изречена Q-Star. Иако овој проект е во рана фаза, се смета дека е навистина револуционерен во развојот на AGI. Сепак, некои тоа го гледаат како опасност за човештвото.
Таен проект за вештачка интелигенција развиен од познатата лабораторија за вештачка интелигенција OpenAI има потенцијал да ја револуционизира технологијата и општеството воопшто. Но, тоа покренува и некои етички прашања за ризиците. Како што се појавуваат детали за неверојатните способности на Project Q*, се повеќе се појавуваат шпекулации за тоа што може да значи за иднината на човештвото.
Исто така интересно: Историја на OpenAI: Што беше тоа и што ја чека компанијата
Што е вештачка општа интелигенција (AGI)?
За да ја разбереме возбудата околу проектот Q* (Q-Star), ајде прво да се обидеме да разбереме за што се работи за концептот на вештачка општа интелигенција (AGI). Додека сегашните системи за вештачка интелигенција се истакнуваат во тесни, специфични задачи како што се играње шах или генерирање слики, општата вештачка интелигенција се однесува на машини кои можат да учат и размислуваат на човечко ниво во многу домени. Односно, тие можат да учат како мали деца во училиште, на пример, основите на математиката, хемијата, биологијата итн.
Општата вештачка интелигенција (AGI) е тип на машинска интелигенција која хипотетички може да имитира човечка интелигенција или однесување, со способност да научи и да го примени тој потенцијал за решавање на различни проблеми. AGI се нарекува и силна вештачка интелигенција, целосна вештачка интелигенција или вештачка интелигенција на човечко ниво. Општата вештачка интелигенција се разликува од слабата или тесна вештачка интелигенција, која е способна да извршува само специфични или специјализирани задачи во рамките на дадените параметри. ZHI ќе може самостојно да решава разни сложени проблеми од различни области на знаење.
Создавањето вештачка интелигенција е главниот фокус на истражувањето на вештачката интелигенција од компании како што се DeepMind и Anthropic. CSI е многу популарна тема во научно-фантастичната литература и може да ги обликува идните истражувања. Некои тврдат дека е можно да се создаде UCI во рок од години или децении, додека други тврдат дека може да потрае еден век или повеќе. Но, има и такви кои веруваат дека тоа никогаш нема да се постигне. Некои ги виделе почетоците на URI во GPT-3, но сепак се чини дека е далеку од исполнувањето на основните критериуми.
Создавањето на вештачка општа интелигенција (AGI) истражувачите го сметаат за свет грал на вештачката интелигенција, теоретска можност која долго време ја заробува нивната имагинација. Затоа, појавата на таков проект како OpenAI Project Q* предизвика голема резонанца во светот на истражувањето на алгоритам за вештачка интелигенција. Иако сите разбираат дека ова се само првите чекори, речиси слепо, до свет во кој вештачката интелигенција ќе ги има истите способности како луѓето, па дури и повисоки.
Исто така интересно: Сите за Microsoft Копилот: иднина или погрешен пат?
Што е проект Q*?
Project Q* не е типичен алгоритам бидејќи е модел на вештачка интелигенција кој се повеќе се приближува до моделот на вештачка општа интелигенција (AGI). Ова значи дека, за разлика од ChatGPT, Project Q* покажува подобри мисловни и когнитивни вештини во споредба со другите алгоритми. ChatGPT моментално одговара на прашања засновани на огромно количество фактички материјал, но со AGI, моделот на AI ќе научи расудување и способност да размислува и да разбира сам. Веќе е познато дека Project Q* е способен да решава едноставни математички проблеми кои не биле дел од неговиот материјал за обука. Во ова, некои истражувачи гледаат значаен чекор кон создавање на општа вештачка интелигенција (AGI). OpenAI го дефинира AGI како системи со вештачка интелигенција кои се попаметни од луѓето.
Развојот на Project Q* го раководи главниот научник на OpenAI, Илја Суцкевер, а неговата основа беше поткрепена од истражувачите Јакуб Пахоцки и Шимон Сидор.
Способноста на алгоритмот сам да решава математички проблеми, дури и ако овие проблеми не биле дел од збирот на податоци за обука, се смета за пробив во областа на вештачката интелигенција. Несогласувањата во тимот во врска со овој проект се поврзани со привременото отстранување на извршниот директор на OpenAI Сем Алтман. Познато е дека пред да биде отпуштен Алтман, група истражувачи на компанијата испратиле писмо до бордот на директори во кое предупредуваат за откривањето на вештачката интелигенција која може да претставува закана за човештвото. Тоа писмо, во кое наводно се дискутираше за алгоритмот Project Q*, беше наведен како еден од факторите што довеле до отпуштање на Алтман. Сепак, способностите на Project Q* и потенцијалните ризици што може да ги носи не се целосно разбрани бидејќи деталите се непознати. Ништо не е објавено за пошироката јавност.
Во неговото јадро, Project Q* е метод за учење со засилување без модели, кој отстапува од традиционалните модели со тоа што не бара претходно познавање на околината. Наместо тоа, тој учи преку искуство, прилагодувајќи ги дејствата засновани на награди и казни. Техничките експерти веруваат дека Project Q* ќе може да стекне извонредни способности со стекнување способности слични на човечките когнитивни способности.
Сепак, токму оваа карактеристика е најимпресивна во новиот модел на вештачка интелигенција која ги загрижува истражувачите и критичарите и ги зголемува нивните стравови за реалните апликации на технологијата и за основните ризици кои се вклучени. Од што толку се плашат научниците и истражувачите? Ајде да го сфатиме.
Исто така интересно: Како да ги ажурирате домашните уреди за да поддржуваат Wi-Fi 6
Тие се плашат од непознатото
Луѓето отсекогаш се плашеле од непознатото, неспознатливото. Ова е човечката суштина, карактеристика на нашиот карактер и начин на живот.
Светот на технологијата дозна за Project Q* во ноември 2023 година по Ројтерс пријавени за внатрешно писмо напишано од загрижени истражувачи на OpenAI. Содржината на писмото била нејасна, но наводно сериозно ги анализирала можностите на Project Q*. Како што споменав погоре, дури има и шпекулации дека токму ова писмо ја предизвикало оставката на Сем Алтман.
Ова експлозивно откритие доведе до различни хипотези во врска со природата на проектот Q*. Научниците сугерираат дека ова може да биде револуционерен модел на природен јазик за вештачката интелигенција. Еден вид изумител на нови алгоритми кој ќе ги создаде за други форми на вештачка интелигенција, или нешто сосема друго на ова поле.
Провокативните коментари на Алтман за општата вештачка интелигенција како „просечен вработен“ веќе предизвикаа загриженост за безбедноста на работата и незапирливото проширување на влијанието на ВИ. Овој мистериозен алгоритам е дефиниран како пресвртница во развојот на вештачката општа интелигенција (AGI). Сепак, сите разбираат дека оваа пресвртница е скапа. И сега не се работи за пари. Нивото на когнитивни вештини што го вети новиот модел со вештачка интелигенција носи со себе неизвесност. Научниците од OpenAI ветуваат дека вештачката интелигенција ќе има размислување на човечко ниво. А тоа значи дека не можеме да знаеме многу работи и да ги предвидиме последиците. И колку повеќе е непознато, толку е потешко да се подготвите да го контролирате или поправите. Односно, новиот алгоритам е способен за само-подобрување и развој. Ова веќе некаде го видовме...
Исто така интересно: Windows 12: Кој ќе биде новиот оперативен систем
Неверојатни детали за можностите на Project Q*
Кога почнаа да се појавуваат повеќе информации, тоа шокираше многу истражувачи. Првите индикации беа дека Project Q* има неверојатна вештина за математика. За разлика од калкулаторот кој врши механички пресметки, Project Q* наводно може да користи логика и расудување за да решава сложени математички проблеми. Оваа математичка способност да се генерализира укажува на развој на широка интелигенција.
Автономната обука на Project Q*, без специфичните сетови на податоци што се користат за обука на типични AI, исто така ќе биде огромен чекор напред. Останува непознато дали Project Q* совладал некои други вештини. Но, неговите математички способности се толку неверојатни сами по себе што ги збунуваат дури и искусните истражувачи.
Прочитајте исто така: Проект за човечки мозок: обид да се имитира човечкиот мозок
Патот на проектот Q* до доминација?
За ова прашање има и оптимистички и песимистички сценарија. Оптимистите ќе речат дека Project Q* би можел да биде искрата што води до технолошки пробив. Како што системот рекурзивно се само-подобрува, неговата натприродна интелигенција може да помогне во решавањето на некои од најитните проблеми на човештвото, од климатските промени до контролата на болестите. Проектот Q* може да ја автоматизира здодевната работа и да го ослободи нашето слободно време за други активности.
Иако има многу повеќе песимистички опции. Понекогаш, тие се сосема разумни и имаат одредено значење.
Губење на работни места
Брзите промени во развојот на технологијата може да ја надминат индивидуалната адаптација на луѓето. Ова ќе доведе до губење на една или повеќе генерации кои нема да можат да ги стекнат потребните вештини или знаења за да се прилагодат на новите реалности. Односно, ова, пак, значи дека помалку луѓе ќе можат да ги задржат своите работни места. Наместо тоа, ќе го вршат машини, автоматски системи и роботи. Сепак, одговорот не е толку јасен кога станува збор за квалификувани специјалисти. Покрај тоа, може да се појават нови професии поврзани конкретно со развојот на алгоритми за вештачка интелигенција. Но, сè уште има ризици, а човештвото нема право да ги игнорира.
Опасноста од неконтролирана моќ
Ако вештачката интелигенција толку моќна како Project Q* падне во рацете на оние со злобни намери, тоа ризикува катастрофални последици за човештвото. Дури и без потенцијално злонамерна намера, нивото на одлучување на Project Q* може да доведе до штетни исходи, што ја нагласува критичната важност од внимателна евалуација на неговата примена.
Ако проектот Q* е слабо оптимизиран за човечките потреби, може да предизвика штета со неговата способност да максимизира некои произволни метрики. Или може да има политичка димензија, како на пример да се користи за државен надзор или репресија. Отворена дебата околу анализата на влијанието на проектот Q* ќе помогне да се дефинираат можните сценарија за развој на ZHI.
Дали ни претстои пресметка „Човек против машина“?
Холивуд веќе има создадено многу сценарија за ваква конфронтација во своите филмови. Сите се сеќаваме на познатиот SkyNet и последиците од таквото откритие. Можеби истражувачите на OpenAI треба повторно да го гледаат овој филм?
Човештвото треба да прифати сигнали и предизвици и да биде подготвено за она што може да се случи. Моделот на вештачка интелигенција способен да размислува како човек може еден ден да стане наш непријател. Многумина би рекле дека во иднина научниците точно ќе знаат како да ја држат ситуацијата под контрола. Но, кога станува збор за машините, не можете целосно да ја исклучите можноста тие да се обидат да ги преземат луѓето.
Исто така интересно: Не се што нарекуваме вештачка интелигенција е всушност вештачка интелигенција. Еве што треба да знаете
Зошто OpenAI молчи?
И покрај лудилото на јавниот интерес за Project Q*, раководството на OpenAI молчи за спецификите на алгоритмот. Но, внатрешното протекување покажува растечки тензии во лабораторијата околу приоритетите и отвореноста на развојот на настаните. Додека многу инсајдери на OpenAI го поддржуваат создавањето на Project Q*, критичарите тврдат дека транспарентноста го зазеде задното место за забрзување на научниот напредок по секоја цена. А некои истражувачи се загрижени дека им се дава неверојатна моќ на системите чии цели не мора да се совпаѓаат со човечките вредности и етика. Овие истражувачи веруваат дека дебатите околу надзорот и одговорноста станаа опасно пригушени. Тие бараат повеќе публицитет и детали.
Како креатори на Project Q*, OpenAI мора да разберат дека имаат технологија која може или во голема мера да ги прошири можностите за развој на општеството или безмилосно да го уништи. Ваквите значајни иновации заслужуваат многу поголема транспарентност за да се изгради довербата на јавноста. Сите прогнози на машинската ера мора внимателно да ги одмерат ризиците заедно со придобивките. И програмерите на Project Q* треба да покажат доволно мудрост и грижа за безбедно да го воведат општеството во нова ера на општа вештачка интелигенција која може да дојде порано отколку што некогаш сме замислувале.
За општата вештачка интелигенција да биде корисна и безбедна за човештвото, мора да се осигура дека таа работи безбедно, етички и во согласност со вредностите и целите на човештвото. Ова бара развој и имплементација на соодветни регулаторни акти, стандарди, правила и протоколи кои ќе ги контролираат и ограничуваат активностите и однесувањето на ИГО. Дополнително, мора да се елиминираат потенцијалните закани и ризици поврзани со злоупотреби, несреќи, некомпатибилности, манипулации и конфликти кои би можеле да доведат до уништување на човештвото. Во меѓувреме, инвеститорите и Microsoft со нетрпение чека за пазарен производ кој би можел да генерира профит, што несомнено е во конфликт со потребата да се дејствува одговорно. Да се надеваме дека здравиот разум ќе надвладее.
Прочитајте исто така: