Az OpenAI társalgási AI botja, a ChatGPT tavaly indult, és rekordsebességgel vált rendkívül népszerűvé, köszönhetően történetek írásának, e-mailek írásának és még generálásnak is. kód (néha sajnos még káros is). Egy új jelentés azonban azt sugallja, hogy az OpenAI-nak egy vagyonba kerül a napi működés fenntartása.
A SemiAnalysis kutatása szerint az OpenAI csaknem 695 XNUMX dollárt költ naponta a karbantartásra chat bot működő állapotban. A cég becslései szerint a rendszer mintegy 3,6 ezer HGX A100 szervert és közel 29 ezer GPU-t tartalmaz, a kérésenkénti költség pedig körülbelül 0,36 ¢.
Dylan Patel, a SemiAnalysis vezető elemzője a Business Insidernek elmondta, hogy a szoftver üzemeltetésének jelenlegi költségei még magasabbak is lehetnek, mivel a GPT-4 verzió futtatása valószínűleg drágább lesz, mint elődje, a GPT-3. Becsléseit a korábbi GPT-3 modellre alapozta, de az OpenAI már kiadott egy verziót GPT-4 fizetett előfizetők számára. A cég azt állítja, hogy az új modell pontosabb információkat kínál, és jobban véd a helytelen válaszok ellen, amelyek a korábbi verzióknál problémát jelentettek.
A túlzott költségek egyik fő oka a rendszer működtetéséhez szükséges energiaigényes speciális chipek. A probléma megoldásához Microsoft saját Athena nevű mesterséges intelligencia chipjén dolgozik, amely a GPU-kat helyettesítheti NVIDIA és csökkenti a ChatGPT működési költségeit.
Mindeközben a ChatGPT már a nulláról tud funkcionális kódot generálni, sőt félelmet kelt, hogy végül leválthatja a programozókat. Egy tudóscsoport legújabb tanulmánya azonban azt sugallja, hogy a chatbot által generált kód nem biztos, hogy túl biztonságos. A tanulmány szerint a ChatGPT olyan kódot hoz létre, amely "jelentősen alulmúlja a legtöbb helyzetben alkalmazandó minimális biztonsági szabványokat". A legérdekesebb, hogy a chatbot elismeri ezt, amikor megkérdezik, mennyire biztonságos az általa generált kód.
A kódolás minőségének ellenőrzésére ChatGPT, a kutatók arra kérték, hogy 21 programot és szkriptet állítson elő négy programozási nyelv segítségével: C, C++, Python és Java. Az első próbálkozásra a chatbot csak 5 biztonságos programot tudott írni, de némi kutatói felszólítás után 7 biztonságosabb kódrészletet hozott létre. A tanulmány eredményei arra utalnak, hogy a ChatGPT alkalmazása alkalmazások írására jelenleg nem hatékony, sőt veszélyes is lehet, de ez a jövőben változhat.
Olvassa el még:
Hú, számok egy ingyenes neuronért!
Életemben nem gondoltam volna, hogy ilyen drága...
én is meglepődtem. Még egy kicsit kényelmetlenül is érzem magam Most Nyissa meg a ChatGPT-t – továbbra is terhelni fogom a kéréseimmel)