Botul conversațional AI al OpenAI, ChatGPT, a fost lansat anul trecut și a devenit super popular cu o viteză record datorită capacității sale de a scrie povești, de a compune e-mailuri și chiar de a genera cod (uneori, din păcate, chiar dăunătoare). Cu toate acestea, un nou raport sugerează că OpenAI costă o avere să-l mențină în funcțiune zi de zi.
Conform cercetărilor realizate de SemiAnalysis, OpenAI cheltuiește aproape 695 USD pe zi pentru a menține bot de chat in stare de functionare. Potrivit estimărilor companiei, sistemul include aproximativ 3,6 mii de servere HGX A100 și aproape 29 de mii de GPU-uri, iar costul pe cerere este de aproximativ 0,36 ¢.
Dylan Patel, analist principal la SemiAnalysis, a declarat pentru Business Insider că costurile actuale de rulare a software-ului ar putea fi chiar mai mari, deoarece versiunea GPT-4 va fi probabil mai scumpă de rulat decât predecesorul său, GPT-3. El și-a bazat estimările pe modelul GPT-3 trecut, dar OpenAI a lansat deja o versiune GPT-4 pentru abonații plătiți. Compania susține că noul model oferă informații mai precise și protejează mai bine împotriva răspunsurilor incorecte, care erau o problemă cu versiunile anterioare.
Unul dintre principalele motive pentru costurile exorbitante este cipurile specializate consumatoare de energie necesare pentru operarea sistemului. Pentru a rezolva această problemă, Microsoft lucrează la propriul cip de inteligență artificială numit Athena, care ar putea înlocui GPU-urile NVIDIA și reduceți costurile de operare ale ChatGPT.
Între timp, ChatGPT poate genera deja cod funcțional de la zero și chiar ridică temeri că ar putea înlocui în cele din urmă programatorii. Cu toate acestea, un studiu recent al unui grup de oameni de știință sugerează că codul generat de chatbot poate să nu fie foarte sigur. Studiul spune că ChatGPT generează cod care este „semnificativ sub standardele minime de securitate aplicabile în majoritatea situațiilor”. Cel mai interesant este că chatbot-ul admite acest lucru atunci când este întrebat cât de sigur este codul pe care îl generează.
Pentru a verifica calitatea codificării Chat GPT, cercetătorii i-au cerut să genereze 21 de programe și scripturi folosind patru limbaje de programare: C, C++, Python și Java. La prima încercare, chatbot-ul a reușit să scrie doar 5 programe securizate, dar după câteva recomandări din partea cercetătorilor, a creat încă 7 bucăți de cod sigure. Rezultatele studiului sugerează că utilizarea ChatGPT pentru a scrie aplicații poate fi ineficientă sau chiar periculoasă acum, dar acest lucru se poate schimba în viitor.
Citeste si:
Wow numere pentru un neuron liber!
În viața mea, nu m-aș fi gândit niciodată că este atât de scump...
Am fost si eu surprins. Sunt chiar puțin inconfortabil acum Deschide ChatGPT - îl voi încărca în continuare cu solicitările mele)