Зараз з’являється багато обґрунтованих занепокоєнь щодо нової хвилі генеративного ШІ – починаючи з робочих місць, які він може замінити, до його здібностей до створення вигадок та дезінформації. Але є одна область, яку часто не беруть до уваги, хоча варто було б. Мова йде про величезну кількість енергії, яку використовують ці системи. Схожу, що вже в недалекому майбутньому ця технологія може споживати стільки ж електроенергії, скільки ціла країна.
Про це заявив дослідник з Амстердама Алекс де Вріс. Він досліджує вплив систем штучного інтелекту на навколишнє середовище і зазначає, що фаза навчання великих мовних моделей часто вважається найбільш енергоємною і тому перебуває в центрі уваги досліджень сталого розвитку ШІ.
Після навчання моделі розгортаються у виробничому середовищі та починають нову фазу виведення висновків. У випадку з ChatGPT це передбачає генерування живих відповідей на запити користувачів. І цю фазу якраз досліджено мало.
За даними дослідницької компанії SemiAnalysis, OpenAI потребував 3 617 серверів NVIDIA HGX A100 із загальною кількістю майже 29 тис. графічних процесорів для підтримки ChatGPT. Це означає потребу в енергії 564 МВт•год на день. Для порівняння, на етапі навчання GPT-3 було використано приблизно 1 287 МВт•год.
Компанія Google повідомила, що 60% енергоспоживання, пов’язаного зі ШІ у 2019-2021 роках, припадає на висновки. Зараз вона активно інтегрує функції штучного інтелекту у свою пошукову систему, і ще в лютому голова Alphabet Джон Хеннесі заявив, що один обмін користувача з пошуковим сервісом на основі ШІ “ймовірно, коштує в 10 разів більше, ніж стандартний пошук за ключовим словом”.
За оцінками SemiAnalysis, для впровадження ШІ, подібного до ChatGPT, у кожен окремий пошук Google знадобиться понад 500 тис. серверів A100 HGX із загальною кількістю графічних процесорів понад 4,1 млн. При енергоспоживанні 6,5 кВт на сервер це означатиме річне споживання 29,2 ТВт•год. До речі, приблизно стільки ж електроенергії щороку споживає Ірландія.
Такий сценарій навряд чи станеться найближчим часом, не в останню чергу тому, що NVIDIA зараз не має таких виробничих потужностей. Проте повідомляється, що вона може поставити 100 тис. своїх серверів для ШІ у 2023 році. Якщо ці сервери працюватимуть на повну потужність, їхня сукупна потреба в енергії становитиме 650 – 1 020 МВт. Вони споживатимуть до 5,7 – 8,9 ТВт•год електроенергії на рік. Це не так багато, але до 2027 року компанія може поставити вже близько 1,5 млн серверів зі ШІ. Це збільшить річне енергоспоживання до 85,4-134,0 ТВт•год. Це приблизно стільки ж, скільки споживають Аргентина, Нідерланди або Швеція.
“Розробникам було б доцільно не лише зосередитися на оптимізації ШІ, але й критично розглянути необхідність використання ШІ в першу чергу, оскільки малоймовірно, що всі програми отримають вигоду від ШІ або що переваги завжди переважатимуть над витратами”, – сказав де Вріс.
Читайте також: