Konverzační AI bot ChatGPT od OpenAI byl uveden na trh v loňském roce a stal se velmi populárním rekordní rychlostí díky své schopnosti psát příběhy, psát e-maily a dokonce generovat kód (někdy bohužel i škodlivé). Nová zpráva však naznačuje, že to stojí OpenAI jmění, aby to běželo každý den.
Podle výzkumu SemiAnalysis utratí OpenAI za údržbu téměř 695 XNUMX $ denně chatovací robot v provozuschopném stavu. Podle odhadů společnosti systém zahrnuje více než 3,6 tisíce serverů HGX A100 a téměř 29 tisíc GPU a náklady na požadavek jsou asi 0,36 ¢.
Dylan Patel, hlavní analytik SemiAnalysis, řekl Business Insider, že současné náklady na provoz softwaru mohou být ještě vyšší, protože verze GPT-4 bude pravděpodobně dražší než její předchůdce GPT-3. Své odhady založil na minulém modelu GPT-3, ale OpenAI již vydal verzi GPT-4 pro placené předplatitele. Společnost tvrdí, že nový model nabízí přesnější informace a lépe chrání před nesprávnými odpověďmi, které byly problémem předchozích verzí.
Jedním z hlavních důvodů přemrštěných nákladů jsou energeticky náročné specializované čipy potřebné pro provoz systému. Chcete-li tento problém vyřešit, Microsoft pracuje na vlastním čipu umělé inteligence s názvem Athena, který by mohl nahradit GPU NVIDIA a snížit provozní náklady ChatGPT.
Mezitím ChatGPT už umí generovat funkční kód od nuly a dokonce vzbuzuje obavy, že by nakonec mohl nahradit programátory. Nedávná studie skupiny vědců však naznačuje, že kód generovaný chatbotem nemusí být příliš bezpečný. Studie říká, že ChatGPT generuje kód, který je „výrazně pod minimálními bezpečnostními standardy platnými ve většině situací“. Nejzajímavější je, že to chatbot přiznává na otázku, jak bezpečný je kód, který generuje.
Chcete-li zkontrolovat kvalitu kódování ChatGPT, vědci jej požádali, aby vygeneroval 21 programů a skriptů pomocí čtyř programovacích jazyků: C, C++, Python a Java. Při prvním pokusu byl chatbot schopen napsat pouze 5 zabezpečených programů, ale po určité výzvě od výzkumníků vytvořil 7 bezpečnějších částí kódu. Výsledky studie naznačují, že používání ChatGPT k psaní aplikací může být nyní neefektivní nebo dokonce nebezpečné, ale to se může v budoucnu změnit.
Přečtěte si také:
Páni čísla pro volný neuron!
V životě by mě nenapadlo, že je to tak drahé...
Taky mě to překvapilo. Je mi to dokonce trochu nepříjemné Nyní Otevřít ChatGPT - ještě ho zatížím svými požadavky)