Microsoft po raz kolejny powiększy dzienny limit czatów oraz kolejek pytań/odpowiedzi na czat w Bing. Limit ten zwiększa się stopniowo od paru tygodni, a Microsoft szykuje się do jeszcze większego skalowania usługi czatbota. Z czego to wynika?
Bing Chat od przeszło miesiąca jest dostępny w wersji zapoznawczej, jednak nie można do niego wejść ot tak. Chętni użytkownicy muszą się zarejestrować i czekać na swoją kolej. Według danych Microsoftu z poprzedniego miesiąca zarejestrował się ponad milion użytkowników, a dziś może ich być o wiele więcej. Moce przerobowe nowego Bing, mimo że oparte na skalowalnej chmurze Microsoftu, nie są nieograniczone. Jedno zapytanie do AI kosztuje nawet 10x więcej niż do tradycyjnej wyszukiwarki. Pewne optymalizacje już zostały wdrożone, niemniej jednak Microsoft musi nieco ograniczać liczbę dziennych sesji.
Since multiple people reached out: yesterday's Bing Chat limit switching to 6 was a regression. We should be mostly back to the normal depth 8, total 120/day. Sorry about that! Seems to be holding up fine, hope to increase again soon.
— Mikhail Parakhin (@MParakhin) March 7, 2023
Niedawno pisaliśmy o limicie 100 sesji oraz 6 kolejek pytanie-odpowiedź na sesję dziennie (wcześniej wynosił on 6/60, a jeszcze wcześniej — 5/50). Każda sesja jest osobną konwersacją z nowym kontekstem. Wczoraj Mikhail Parakhin z Microsoft podał, że przy obecnym limicie 8 kolejek i 120 sesji dziennie firma ma nadzieję wkrótce zwiększyć [limit] ponownie. O ile ilość dziennych sesji powinna zadowolić zdecydowaną większość użytkowników wyszukiwarki, to 8 kolejek na sesję jest już trochę ograniczające, zwłaszcza kiedy chcielibyśmy dłużej pokonwersować w danym kontekście.
Nie jest jeszcze jasne, czy po wejściu nowego Bing w ogólną dostępność limit dla darmowych użytkowników zostanie zmniejszony, zwiększony, czy też zupełnie zniesiony. Możliwe, że za szybciej działający i pozbawiony limitów Czat trzeba będzie zapłacić abonament lub opłacić go punktami Microsoft Rewards. Z drugiej strony umieszczenie w nim reklam (co ciągle jest eksplorowane) może spowodować, że usługa będzie sama na siebie zarabiać.
Bing Chat moving today to 10 chats per session / 120 total per day.
— Yusuf Mehdi (@yusuf_i_mehdi) March 8, 2023
Engineering making steady progress with quality of experience giving us confidence to expand the testing. Let us know how it's working for you!
Aktualizacja: Limit dzienny wynosi już 10 czatów na sesję / 120 sesji.