Użytkownicy Czatu Bing/Copilota czekają na implementację GPT-4 Turbo, ostatniej iteracji modelu GPT (Generative Pre-trained Transformer) od OpenAI. W niedawnym tweecie Mikhail Parakhin z Microsoftu potwierdził, że firma już nad tym pracuje. W czym ta nowa wersja jest lepsza od obecnej?
Podczas gdy GPT-4 Turbo nadal nie jest dostępny w Bing ani Copilot, Mikhail Parakhin, CEO działu Search and Advertising w Microsoft, zapewnia, że jego zespół usuwa pozostałe niedociągnięcia i pracuje nad płynnym wdrożeniem. Gdy już do niego dojdzie, oczekuje się, że ulepszony silnik poprawi możliwości czatbota oraz obniży koszt jego pracy.
Not GPT-4-turbo yet, still need to iron out a few kinks. On Precise, I assume you are talking about Mobile: it is there, click on three dots->Show All Tones
— Mikhail Parakhin (@MParakhin) November 26, 2023
Co to jest GPT-4 Turbo? Jest to najnowsza generacja dużego modelu językowego GPT-4 autorstwa OpenAI, zdolnego do przetwarzania zarówno tekstu, jak i obrazów (model multimodalny), która cechuje się wzrostem możliwości, wydajności i opłacalności. Wersja Turbo posiada okno kontekstu ze 128 tys. tokenów (w porównaniu do 64 tys. w GPT-4 i 8 tys. w GPT-3.5). Oznacza to, że może uwzględniać znacznie dłuższą historię tekstu podczas generowania odpowiedzi, co prowadzi do bardziej spójnych i trafnych wyników.
GPT-4 Turbo jest 3x tańszy w działaniu w przypadku tokenów wejściowych (0,01 USD) i 2x tańszy w przypadku tokenów wyjściowych (0,03 USD) w porównaniu do GPT-4. Wspiera on tryb wyjścia JSON, co pozwala deweloperom łatwo integrować go z innymi usługami. Wersja ta została ogłoszona 6 listopada.
