Snowflake dodaje dynamiczny dobór modeli w Cortex AI Gateway. Pojawiają się nowe modele otwarte

Snowflake, firma zajmująca się chmurą danych, wprowadza dynamiczny dobór modeli w Cortex AI Gateway oraz kluczowych produktach AI. Rozszerza też ofertę o kolejne modele otwarte. Rozwiązanie ma pomóc firmom ograniczać koszty wnioskowania i dopasowywać model do konkretnego zadania.

Nowe funkcje rozwijają Cortex AI Gateway, rozwiązanie wprowadzone przez Snowflake w lipcu 2026 roku jako wspólną platformę do zarządzania połączeniami agentów, inteligentnego kierowania zapytań i optymalizacji wykorzystania AI. Firma wskazuje, że wraz z wdrażaniem coraz większej liczby aplikacji i agentów w środowiskach produkcyjnych korzystanie z tego samego modelu do każdego zadania podnosi koszty, a ręczna ocena wielu modeli obciąża zespoły deweloperskie.

Dzięki dynamicznemu kierowaniu zapytań Cortex AI Gateway automatycznie wybiera model najlepiej dopasowany do konkretnego zadania, biorąc pod uwagę jakość, szybkość, preferencje klienta i koszt. Zadania proste i powtarzalne trafiają do bardziej wydajnych modeli, wymagające głębszego rozumowania do bardziej zaawansowanych. Funkcja jest zintegrowana z flagowymi produktami AI firmy, Snowflake CoCo i Snowflake CoWork, a także dostępna dla zewnętrznych agentów AI korzystających z Cortex AI Gateway.

Do biblioteki modeli w Snowflake Cortex AI dołączają dwa nowe modele otwarte, DeepSeek-V4-Flash 0731 i GLM-5.3. Wraz z modelami dostawców takich jak Anthropic, OpenAI, Google, SpaceXAI, Meta i Mistral portfolio ma pozwalać klientom na dopasowanie kosztu i wydajności do konkretnego obciążenia. Snowflake podaje, że w testach jego zespołu badawczego DeepSeek-V4-Flash uzyskał 74,4 proc. w zadaniach z obszaru inżynierii danych, wyprzedzając wskazane w badaniu modele zamknięte, a GLM-5.2 osiągnął 62,8 proc., zużywając przy tym mniej tokenów niż jakikolwiek inny testowany model.

Firma podaje też własne wyniki użycia dynamicznego doboru. W jednym z testów agenci zbudowali pipeline dbt przy nawet trzykrotnie większej efektywności wykorzystania tokenów niż w podejściu opartym wyłącznie na modelach flagowych, przy zachowaniu tej samej jakości. W innym teście zespoły inżynierskie zrealizowały taką samą liczbę pull requestów przy o 25 proc. większej efektywności wykorzystania tokenów.

Jak mówi Sridhar Ramaswamy, CEO Snowflake: „Przedsiębiorstwa podchodzą dziś znacznie bardziej rygorystycznie do ekonomiki AI. Pytanie nie brzmi już, jak dużo sztucznej inteligencji wykorzystują, ale czy rzeczywiście przekłada się ona na wymierną wartość biznesową (...) Rolą Snowflake jest przejęcie tej złożoności, tak aby klienci mogli skupić się na efektach, podczas gdy my optymalizujemy dobór modeli".

Sanjeev Mohan, założyciel i główny analityk SanjMo, dodaje: „Przedsiębiorstwa mierzą się dziś z ogromnym wyborem modeli, ale prawdziwym problemem nie jest to, który model wybrać. Wyzwaniem są dodatkowe koszty operacyjne związane z doborem odpowiedniego modelu na dużą skalę (...) Możliwość dopasowania kosztu modelu do złożoności danego zadania, bez konieczności przebudowy infrastruktury za każdym razem, gdy pojawia się nowy model, to właśnie ten rodzaj efektywności, którego przedsiębiorstwa potrzebują, aby przejść od eksperymentowania z AI do wykorzystywania jej na dużą skalę".

Cortex AI Gateway zapewnia administratorom wgląd w zużycie tokenów i koszty oraz umożliwia ustalanie limitów wydatków dla aplikacji i agentów AI. Snowflake CoCo rozszerza te możliwości, wykorzystując mechanizmy dostępu opartego na rolach i tagowania. Administratorzy mogą określać domyślne modele, przypisywać zużycie do zespołów lub centrów kosztów, ustalać limity dla użytkowników oraz otrzymywać powiadomienia o zbliżaniu się do progów.

Materiał pochodzi od Snowflake i dotyczy jego własnych produktów AI.

Źródła: informacja prasowa Snowflake