Розмовний ШІ-бот ChatGPT від OpenAI почав працювати минулого року і з рекордною швидкістю став надпопулярним завдяки своїй здатності писати історії, складати електронні листи та навіть генерувати код (інколи, на жаль, навіть шкідливий). Однак новий звіт свідчить про те, що підтримка його щоденної роботи обходиться OpenAI в шалену суму.
Згідно з дослідженням SemiAnalysis, OpenAI витрачає майже $695 тис. на день, щоб підтримувати чат-бот в робочому стані. За оцінками компанії, система включає близько понад 3,6 тис. серверів HGX A100 і майже 29 тис. графічних процесорів, а вартість одного запиту становить близько ¢0,36.
Ділан Пател, головний аналітик SemiAnalysis, повідомив Business Insider, що поточні витрати на запуск програмного забезпечення можуть бути навіть вищими, оскільки версія GPT-4, ймовірно, дорожча в експлуатації, ніж її попередник, GPT-3. Він спирався на свої оцінки минулої моделі GPT-3, але OpenAI вже випустила версію GPT-4 для платних підписників. Компанія стверджує, що нова модель пропонує точнішу інформацію і краще захищає від некоректних відповідей, які були проблемою попередніх версій.
Однією з головних причин непомірних витрат є енергоємні спеціалізовані чипи, необхідні для роботи системи. Щоб розв’язати цю проблему, Microsoft працює над власним чипом штучного інтелекту під назвою Athena, який може замінити графічні процесори NVIDIA і знизити витрати на експлуатацію ChatGPT.
Тим часом ChatGPT вже може генерувати функціональний код з нуля, і це навіть викликає побоювання, що з часом він може замінити програмістів. Проте нещодавнє дослідження групи науковців свідчить про те, що згенерований чат-ботом код може бути не дуже безпечним. У дослідженні йдеться про те, що ChatGPT генерує код, який “значно нижчий за мінімальні стандарти безпеки, що застосовуються в більшості ситуацій”. Найцікавіше те, що чат-бот визнає це, коли його запитують, наскільки безпечний згенерований ним код.
Щоб перевірити якість кодування ChatGPT, дослідники попросили його згенерувати 21 програму і скрипт, використовуючи чотири мови програмування: C, C++, Python і Java. З першої спроби чат-бот зміг написати лише 5 захищених програм, але після деяких підказок дослідників створив ще 7 захищених фрагментів коду. Результати дослідження свідчать про те, що використання ChatGPT для написання застосунків зараз може бути неефективним чи навіть небезпечним, але в майбутньому це може змінитися.
Читайте також:
Нічого собі цифри для безкоштовної нейронки!
В житті б не подумав, що це так дорого…
Я теж була здивована. Мені навіть трохи незручно тепер ChatGPT відкривати – ще ото буду його своїми запитами обтяжувати)