ChatGPT ha ricevuto recensioni positive e negative sin dal suo inizio, ed è stato persino bandito in alcuni luoghi. Ma ti sei mai chiesto quanti soldi ci vogliono per eseguire un bot avanzato di queste dimensioni basato sull’intelligenza artificiale? Bene, una società di ricerca chiamata SemiAnalysis ha fatto i conti.
L’azienda ha stimato che l’esecuzione di ChatGPT richiede circa $ 700.000 al giorno, il che si riduce a circa 36 centesimi per query. E la maggior parte della spesa va nell’infrastruttura hardware necessaria per eseguire i sistemi di intelligenza artificiale. SemiAnalysis scrive in un post sul blog :
La stima dei costi di ChatGPT è una proposta complicata a causa di diverse variabili sconosciute. Abbiamo creato un modello di costo che indica che ChatGPT costa $ 694.444 al giorno per operare nei costi dell’hardware di calcolo. OpenAI richiede ~3.617 server HGX A100 (28.936 GPU) per servire Chat GPT.
ChatGPT è tra le tecnologie in più rapida crescita che ha accumulato oltre 100 milioni di utenti attivi a gennaio, appena due mesi dopo il suo lancio. Per riferimento, TikTok ha impiegato nove mesi e Instagram 2,5 anni per raggiungere lo stesso traguardo. L’analista capo di SemiAnalysis, Dylan Patel, ha dichiarato a Insider che questa stima iniziale si basa su GPT-3 e che il nuovo modello GPT-4 potrebbe essere ancora più costoso da utilizzare.
The Information (protetto da paywall) ha recentemente riferito che il principale sostenitore di OpenAI, Microsoft ha lavorato su un chip AI dedicato che dovrebbe ridurre il costo delle operazioni. OpenAI ha anche lanciato il suo abbonamento premium da $ 20 ChatGPT Plus all’inizio di quest’anno per guadagnare qualche soldo.
SemiAnalysis afferma che se il modello ChatGPT viene utilizzato per alimentare le attività di ricerca esistenti di Google, consumerebbe $ 36 miliardi dai profitti dell’azienda solo in “costi di inferenza LLM ” .
“L’implementazione dell’attuale ChatGPT in ogni ricerca eseguita da Google richiederebbe 512.820,51 server A100 HGX con un totale di 4.102.568 GPU A100. Il costo totale di questi server e della rete supera i soli $ 100 miliardi di Capex, di cui Nvidia ne riceverebbe una grossa porzione”, scrive l’azienda.
Via Insider
