Materiały · AI Gateway

Który model dostaje Państwa zapytanie – i kto o tym decyduje

Proste pytanie nie powinno kosztować tyle co trudne. Gateway odróżnia je modelem, który prowadzimy my, a sama decyzja nigdy nie wychodzi na zewnątrz.

Państwa dostawca o tym nie decyduje

Ocenę wykonuje model, który prowadzimy my – w każdym planie, nie tylko w tym najdroższym.

Bez dopłaty

AWS i Azure rozliczają routing jako osobną pozycję. Tutaj przebiega on w tym samym przebiegu co kontrole bezpieczeństwa, za które już Państwo płacą.

Sprawdzalne

Klasyfikacja pochodzi z publicznego rankingu, a nie z naszej własnej punktacji.

Jak to przebiega

Trzy kroki

1
Trudność

Klasyfikator, który prowadzimy my, przydziela zapytanie do jednej z pięciu klas – na naszej własnej infrastrukturze w UE albo na Państwa sprzęcie w Enterprise on-premise.

2
Kandydaci

Klasa decyduje, które modele mogą na nie odpowiedzieć.

3
Wybór

Spośród nich najtańszy, który sobie z tym poradzi.

Żadna część zapytania nie trafia do strony trzeciej, aby zostać oceniona.

Gdzie zapada decyzja

Kto widzi Państwa zapytanie, zanim zobaczy je model

Podejście
Decyzja zapada
Koszt routingu
AWS Bedrock
w chmurze AWS
$1 za 1,000 zapytań
Azure AI Foundry
w chmurze Azure
$0.14 za 1M tokenów
Hostowane bramy
u dostawcy bramy
w abonamencie
Tandevia – chmura
na naszej własnej infrastrukturze w UE
0
Tandevia – Enterprise on-premise
na Państwa sprzęcie
0

Najmocniejsze sformułowanie, jakiego używa dostawca hostowanej usługi, brzmi „nie przechowujemy tego” – nigdy „nie wysyłamy tego”.

W naszej chmurze ocenę wykonuje model, który prowadzimy w Europie, nigdy dostawca modelu, do którego wysyłają Państwo zapytanie. Na Państwa własnym sprzęcie, w Enterprise on-premise, ten sam model działa tam, skąd nic w ogóle nie wychodzi. Tak czy inaczej nie ma dopłaty, bo dzieje się to w jednym przebiegu z kontrolami bezpieczeństwa, za które już Państwo płacą.

Ceny konkurencji według publikacji z września 2026 r.

Dowody

Co zmierzyliśmy, łącznie z tym, co nie zadziałało

Nie zgadujemy, który model należy do której klasy – wyprowadza to skrypt z publicznego rankingu i można go uruchomić ponownie w dowolnej chwili. W 18 z 45 modeli poprawił on naszą własną ręczną klasyfikację, w obie strony.

I część niewygodna: na RouterBench, publicznym benchmarku, czytanie zapytania i porównanie go ze stałym progiem nie dało zupełnie nic. Powód tkwi w danych – dla 87% tych zadań nie istnieje tańszy model, który by wystarczył. Dlatego nie obiecujemy procentu oszczędności. Proponujemy, że go zmierzymy.

Kiedy coś pójdzie nie tak

Gdy model nie może odpowiedzieć

Awaria dostawcy, wyczerpany limit lub ograniczenie liczby zapytań – i zapytanie przejmuje inny dostawca z tej samej klasy lub wyższej, wyłącznie spośród modeli, z których dana aplikacja może korzystać. Odpowiedź niesie wtedy linijkę z nazwą modelu, który ją napisał. Dla aplikacji, która wolałaby dostać błąd, można to wyłączyć.

Co możemy Państwu zaproponować

Ile Państwo zaoszczędzą, nie wiemy. Zmierzymy to.

Ile Państwa ruchu uniesie tani model, zależy od tego, co robią Państwa ludzie. Konkurencja nie policzy tego za Państwa – potrzebowałaby Państwa promptów na swoich serwerach. My mierzymy to na Państwa.

Po miesiącu dostają Państwo własną liczbę: jaki udział ruchu, ile to w pieniądzach i gdzie routing nie pomaga. Jeśli okaże się, że nie pomaga, powiemy to wprost.

Pomiar to ekran w konsoli, a nie usługa, którą wykonujemy za Państwa: bierze Państwa zapisane zapytania, każe odpowiedzieć na nie modelowi taniemu i drogiemu, a Państwo oceniają, która odpowiedź by wystarczyła. Strony są oznaczone A i B – kto wie, która jest która, decyduje zgodnie z oczekiwaniem, a wtedy liczba nie jest już Państwa. Wynik dostają Państwo z rozrzutem, bo udział z trzydziestu ocen to przedział, a nie jedna liczba.