Jak wynika z raportu The Information, Microsoft inwestuje w rozwój mniejszej i tańszej sztucznej inteligencji w porównaniu do modeli takich jak GPT-4. Inicjatywa obejmuje utworzenie nowego zespołu Gen AI, który skupia się na tworzeniu modeli konwersacyjnej sztucznej inteligencji o mniejszych wymaganiach mocy obliczeniowej.
W skład zespołu Gen AI mają wchodzić osoby przeniesione z grupy badawczej Microsoftu (Microsoft Research?), prawdopodobnie pod kierownictwem Mishy Bilenko. Zespół może być zintegrowany z działem chmury Azure. Wskazywałoby to, że rozwijana AI będzie bezpośrednio dostępna dla klientów chmury Azure, podobnie jak np. GPT-4 w Azure OpenAI Service.
Przez ostatni rok Microsoft mocno opierał się na technologii dostarczonej przez OpenAI, wykorzystując GPT-3 i 4 w Bing Chat i Copilot oraz DALLE-3 w Kreatorze obrazów Bing/Designer i innych aplikacjach. Według danych z zeszłego roku użycie czatbota podpiętego do dużego modelu językowego (LLM) kosztuje nawet 10 razy więcej niż klasyczne wyszukiwanie. W zależności od wersji silnika koszt jego obsługi może się różnić, ale ciągle są to dość zasobożerne i kosztowne obciążenia.
GenAI zajmować się ma prawdopodobnie rozwijaniem modeli AI o zbieżnej lub nawet większej funkcjonalności niż modele firm takich jak OpenAI, optymalizując je do mniejszych rozmiarów (SLM). Czy będą one tylko udostępniane klientom Azure, czy też trafią do niektórych produktów Microsoftu, zastępując GPT? Tego jeszcze nie wiadomo.
Źródło: https://www.neowin.net/news/report-microsoft-working-on-a-smaller-and-cheaper-ai-model-than-openais/
341f31d.png)