OpenAI's conversationele AI-bot ChatGPT is vorig jaar gelanceerd en is in recordtempo super populair geworden dankzij zijn vermogen om verhalen te schrijven, e-mails op te stellen en zelfs code (soms helaas zelfs schadelijk). Een nieuw rapport suggereert echter dat het OpenAI een fortuin kost om het dagelijks draaiende te houden.
Volgens onderzoek van SemiAnalysis besteedt OpenAI bijna $ 695 per dag aan onderhoud chatbot in operationele staat. Volgens schattingen van het bedrijf omvat het systeem ongeveer 3,6 duizend HGX A100-servers en bijna 29 duizend GPU's, en de kosten per aanvraag bedragen ongeveer ¢ 0,36.
Dylan Patel, hoofdanalist bij SemiAnalysis, vertelde Business Insider dat de huidige kosten van het draaien van de software zelfs nog hoger zouden kunnen zijn, aangezien de GPT-4-versie waarschijnlijk duurder zal zijn dan zijn voorganger, GPT-3. Hij baseerde zijn schattingen op het eerdere GPT-3-model, maar OpenAI heeft al een versie uitgebracht GPT-4 voor betalende abonnees. Het bedrijf beweert dat het nieuwe model nauwkeurigere informatie biedt en beter beschermt tegen onjuiste antwoorden, die een probleem waren met eerdere versies.
Een van de belangrijkste redenen voor de exorbitante kosten zijn de energie-intensieve gespecialiseerde chips die nodig zijn om het systeem te laten werken. Om dit probleem op te lossen, Microsoft werkt aan zijn eigen kunstmatige intelligentie-chip genaamd Athena die GPU's zou kunnen vervangen NVIDIA en verlaag de bedrijfskosten van ChatGPT.
Ondertussen kan ChatGPT al vanuit het niets functionele code genereren, en het roept zelfs de vrees op dat het uiteindelijk programmeurs zou kunnen vervangen. Een recent onderzoek door een groep wetenschappers suggereert echter dat door een chatbot gegenereerde code mogelijk niet erg veilig is. De studie zegt dat ChatGPT code genereert die "aanzienlijk onder de minimale beveiligingsstandaarden ligt die in de meeste situaties van toepassing zijn". Het meest interessante is dat de chatbot dit toegeeft wanneer hem wordt gevraagd hoe veilig de code is die hij genereert.
Om de kwaliteit van de codering te controleren ChatGPT, vroegen de onderzoekers hem om 21 programma's en scripts te genereren met behulp van vier programmeertalen: C, C++, Python en Java. Bij de eerste poging kon de chatbot slechts 5 beveiligde programma's schrijven, maar na wat aandringen van de onderzoekers creëerde hij 7 veiligere stukjes code. De resultaten van het onderzoek suggereren dat het gebruik van ChatGPT om applicaties te schrijven nu misschien inefficiënt of zelfs gevaarlijk is, maar dat dit in de toekomst kan veranderen.
Lees ook:
Wow cijfers voor een gratis neuron!
In mijn leven had ik nooit gedacht dat het zo duur is...
Ik was ook verrast. Ik voel me zelfs een beetje ongemakkelijk nu Open ChatGPT - ik zal het nog steeds belasten met mijn verzoeken)