Mija już kilka miesięcy, odkąd ChatGPT jest publicznie dostępny, a ciągle nie wydaje się, by mógł na siebie zarobić. Utrzymanie sztucznej inteligencji, z której korzysta codziennie powyżej 100 milionów ludzi, to dość spory wydatek. W końcu zasoby w centrach danych — zwłaszcza dla tak gigantycznych obciążeń — swoje kosztują. A ile dokładnie?
ChatGPT szturmem wdarł się na szczyt popularności jako aplikacja najszybciej podwajająca swoją liczbę użytkowników. Dojście do 100 milionów użytkowników zajęło jej tylko 2 miesiące. To mniej niż dotychczasowym rekordzistom: TikTokowi (9 miesięcy) i Instagramowi (2,5 roku). SemiAnalysis szacuje, że działanie ChatGPT kosztuje około 700 tysięcy dolarów dziennie, zaokrąglając w dół do 36 centów na zapytanie. Najwięcej z tej sumy pochłania infrastruktura wymagana przez systemy AI.
Oszacowanie kosztów ChatGPT jest trudną propozycją z uwagi na kilka nieznanych zmiennych. Zbudowaliśmy model kosztów wskazujący, że działanie ChatGPT na sprzęcie obliczeniowym kosztuje 694.444 USD dziennie. OpenAI wymaga około 3617 serwerów HGX A100 (28.936 GPUs) do obsługi ChatGPT. Szacujemy, że koszt zapytania wynosi 0,36 centa.
— Dylan Patel i Afzal Ahmad, SemiAnalysis
Czat Bing, który opiera się zasadniczo na tej samej technologii, co ChatGPT (chociaż nie jest do niej ograniczony), również kosztuje więcej niż tradycyjny silnik wyszukiwania. Według wcześniejszych szacunków koszt zapytania skierowanego do Bing Chat jest nawet 10-krotnie wyższy niż zapytania do klasycznego Bing.
