С появата на ChatGPT, Bard и други големи AI модели чухме предупреждения от хора, участващи в тях, като Илон Мъск, за рисковете, които създава AI. Сега група от видни лидери в индустрията издаде изявление от едно изречение, което всъщност потвърждава тези страхове.
Приложението е публикувано на на уебсайта на Центъра за сигурност на изкуствения интелект (Center for AI Safety) е организация, чиято мисия е да „намалява рисковете, свързани с изкуствения интелект в обществен мащаб“. Сред подписалите се са известни представители на индустрията за изкуствен интелект, включително изпълнителният директор на OpenAI Сам Алтман и гл. Google DeepMind Демис Хасабис. Носителите на наградата Тюринг Джефри Хинтън и Джошуа Бенгио, считани от мнозина за кръстниците на съвременния ИИ, също подписаха изявлението.
Това е второ подобно изявление за последните няколко месеца. През март Мъск, Стив Возняк и повече от 1000 други призоваха за шестмесечна пауза в разработването на AI, за да се позволи на индустрията и обществеността да овладеят ефективно технологията. „През последните месеци лабораториите за изкуствен интелект бяха въвлечени в неконтролирана надпревара за разработване и внедряване на все по-мощни дигитални умове, които никой – дори техните създатели – не могат да разберат, предвидят или надеждно контролират“, се казва в писмото.
Въпреки че AI (вероятно) не е толкова самоосъзнат, колкото се опасяват някои, той вече крие рискове от злоупотреба и вреда чрез дълбоки фалшификати, автоматизирана дезинформация и др. AI може също така да промени начина, по който се произвеждат съдържание, изкуство и литература, което потенциално засяга много работни места.
Президентът на САЩ Джо Байдън наскоро каза, че „остава да се види“ дали AI е опасен, добавяйки: „Според мен технологичните компании имат задължението да гарантират, че продуктите им са безопасни, преди да ги пуснат в света... AI може помогне за справяне с някои много трудни проблеми като болести и изменение на климата, но трябва също така да вземе предвид потенциалните рискове за нашето общество, нашата икономика, нашата национална сигурност. На скорошна среща в Белия дом Алтман призова за регулиране на ИИ поради потенциалните рискове.
Предвид широкия диапазон от мнения, новият бриф има за цел да демонстрира споделена загриженост относно рисковете, свързани с изкуствения интелект, дори ако страните не са съгласни какви са тези рискове.
„Експерти в областта на изкуствения интелект, журналисти, политици и обществеността все повече обсъждат широк спектър от важни и неотложни рискове, свързани с изкуствения интелект“, се казва в преамбюла на изявлението. „Въпреки това може да бъде трудно да се изрази загриженост относно някои от по-сериозните рискове, свързани с изкуствения интелект. Краткото изявление по-долу има за цел да преодолее това препятствие и да отвори дискусията. Той също така е предназначен да информира нарастващия брой експерти и обществени личности, които също приемат сериозно някои от най-сериозните рискове, свързани с изкуствения интелект."
Прочетете също: