Materiály · AI Gateway

Ktorý model dostane vašu požiadavku – a kto o tom rozhoduje

Jednoduchá otázka nemá stáť toľko čo ťažká. Gateway ich rozlíši modelom, ktorý prevádzkujeme my, a samotné rozhodnutie nikdy neodchádza.

Váš poskytovateľ o tom nerozhoduje

Úsudok robí model, ktorý prevádzkujeme my – v každom pláne, nielen v tom drahom.

Bez príplatku

AWS aj Azure účtujú smerovanie ako samostatnú položku. Tu prebieha v tom istom prechode ako bezpečnostné kontroly, ktoré už platíte.

Overiteľné

Klasifikácia pochádza z verejného rebríčka, nie z nášho vlastného bodovania.

Ako to beží

Tri kroky

1
Náročnosť

Klasifikátor, ktorý prevádzkujeme my, zaradí požiadavku do jednej z piatich tried – na našej vlastnej infraštruktúre v EÚ, alebo na vašom hardvéri v Enterprise on-premise.

2
Kandidáti

Trieda určí, ktoré modely na ňu smú odpovedať.

3
Voľba

Z nich ten najlacnejší, ktorý na to stačí.

Žiadna časť požiadavky nejde na posúdenie tretej strane.

Kde padne rozhodnutie

Kto vidí vašu požiadavku skôr ako model

Prístup
Rozhoduje sa
Cena smerovania
AWS Bedrock
v cloude AWS
$1 za 1,000 požiadaviek
Azure AI Foundry
v cloude Azure
$0.14 za 1M tokenov
Hostované brány
u dodávateľa brány
v predplatnom
Tandevia – cloud
na našej vlastnej infraštruktúre v EÚ
0
Tandevia – Enterprise on-premise
na vašom hardvéri
0

Najsilnejšia formulácia, akú hostovaný dodávateľ použije, znie „neukladáme to“ – nikdy „neposielame to“.

V našom cloude robí úsudok model, ktorý prevádzkujeme v Európe, nikdy nie dodávateľ modelu, ktorému požiadavku posielate. Na vašom vlastnom hardvéri, v Enterprise on-premise, ten istý model beží tam, odkiaľ neodchádza vôbec nič. Tak či onak niet príplatku, pretože beží v jednom prechode s bezpečnostnými kontrolami, ktoré už platíte.

Ceny konkurencie podľa zverejnenia zo septembra 2026.

Dôkazy

Čo sme odmerali vrátane toho, čo nevyšlo

Nehádame, ktorý model patrí do ktorej triedy – odvodzuje to skript z verejného rebríčka a dá sa kedykoľvek spustiť znova. Pri 18 zo 45 modelov opravil našu vlastnú ručnú klasifikáciu, a to v oboch smeroch.

A nepríjemná časť: na RouterBench, verejnom benchmarku, čítanie požiadavky oproti pevnému prahu neprinieslo vôbec nič. Dôvod je v dátach – pre 87% týchto úloh neexistuje lacnejší model, ktorý by bol stačil. Preto nesľubujeme ušetrené percento. Ponúkame, že ho odmeriame.

Keď sa to pokazí

Keď model nemôže odpovedať

Výpadok poskytovateľa, vyčerpaná kvóta alebo limit počtu požiadaviek – a požiadavku prevezme iný poskytovateľ v rovnakej triede alebo vyššie, len z modelov, ktoré daná aplikácia smie používať. Odpoveď potom nesie riadok s názvom modelu, ktorý ju napísal. Pre aplikáciu, ktorá by radšej dostala chybu, sa to dá vypnúť.

Čo vám vieme ponúknuť

Koľko ušetríte, nevieme. Odmeriame to.

Koľko vašej prevádzky unesie lacný model, závisí od toho, čo vaši ľudia robia. Konkurent to za vás nespočíta – potreboval by vaše prompty na svojich serveroch. My to meriame na vašich.

Po mesiaci dostanete vlastné číslo: aký podiel prevádzky, koľko to je v peniazoch a kde smerovanie nepomáha. Ak sa ukáže, že nepomáha, povieme to.

Meranie je obrazovka v konzole, nie služba, ktorú vykonávame my: vezme vaše uložené požiadavky, nechá na ne odpovedať lacný aj drahý model a vy posúdite, ktorá odpoveď by bola stačila. Strany sú označené A a B – kto vie, ktorá je ktorá, rozhoduje sa podľa očakávania a potom to číslo nie je vaše. Výsledok dostanete s rozpätím, pretože podiel z tridsiatich posudkov je rozsah, nie jedno číslo.