Viri · AI Gateway

Kateri model dobi vašo zahtevo – in kdo o tem odloči

Preprosto vprašanje ne sme stati toliko kot težko. Gateway ju razloči z modelom, ki ga poganjamo mi, sama odločitev pa nikoli ne gre ven.

Vaš ponudnik ne odloča

Presojo opravi model, ki ga upravljamo mi – v vsakem paketu, ne le v najdražjem.

Brez doplačila

AWS in Azure usmerjanje zaračunavata kot svojo postavko. Tu teče v istem prehodu kot varnostna preverjanja, ki jih že plačujete.

Preverljivo

Razvrstitev izhaja iz javne lestvice, ne iz našega lastnega točkovanja.

Kako teče

Trije koraki

1
Zahtevnost

Klasifikator, ki ga poganjamo mi, razvrsti zahtevo v enega od petih razredov – na naši lastni infrastrukturi v EU ali na vaši strojni opremi v paketu Enterprise v lastnem okolju.

2
Kandidati

Razred določi, kateri modeli smejo nanjo odgovoriti.

3
Izbira

Med njimi najcenejši, ki to zmore.

Noben del zahteve ne gre v presojo k tretji osebi.

Kje se odloči

Kdo vidi vašo zahtevo pred modelom

Pristop
Odločitev pade
Cena usmerjanja
AWS Bedrock
v oblaku AWS
$1 za 1,000 zahtev
Azure AI Foundry
v oblaku Azure
$0.14 za 1M žetonov
Gostovani prehodi
pri ponudniku prehoda
vključeno v naročnino
Tandevia – oblak
na naši lastni infrastrukturi v EU
0
Tandevia – Enterprise v lastnem okolju
na vaši strojni opremi
0

Najmočnejša formulacija, ki jo uporabi gostujoči ponudnik, je „tega ne shranjujemo“ – nikoli „tega ne pošiljamo“.

V našem oblaku presojo opravi model, ki ga poganjamo v Evropi, nikoli ponudnik modela, ki mu pošiljate zahtevo. Na vaši lastni strojni opremi, v paketu Enterprise v lastnem okolju, isti model teče tam, od koder ne gre ven prav nič. Tako ali tako ni doplačila, ker teče v enem prehodu z varnostnimi preverjanji, ki jih že plačujete.

Cene konkurentov, kot so bile objavljene septembra 2026.

Dokazi

Kaj smo izmerili, vključno s tem, kar ni delovalo

Ne ugibamo, kateri model sodi v kateri razred – skripta ga izpelje iz javne lestvice in jo je mogoče kadar koli pognati znova. Pri 18 od 45 modelov je popravila našo lastno ročno razvrstitev, in to v obe smeri.

In neprijetni del: na RouterBench, javnem merilu, branje zahteve glede na nespremenljiv prag ni prineslo prav nič. Razlog je v podatkih – pri 87% teh nalog ni cenejšega modela, ki bi zadostoval. Zato ne obljubljamo odstotka prihranka. Ponujamo, da ga izmerimo.

Ko gre narobe

Ko model ne more odgovoriti

Izpad ponudnika, izčrpana kvota ali omejitev števila zahtev – in zahtevo prevzame drug ponudnik iz istega razreda ali višje, le izmed modelov, ki jih ta aplikacija sme uporabljati. Odgovor nato nosi vrstico z imenom modela, ki ga je napisal. Za aplikacijo, ki bi raje dobila napako, se to izklopi.

Kaj vam lahko ponudimo

Koliko boste prihranili, ne vemo. Izmerili bomo.

Koliko vašega prometa zmore poceni model, je odvisno od tega, kaj vaši ljudje počnejo. Konkurent tega ne more izračunati namesto vas – potreboval bi vaše pozive na svojih strežnikih. Mi to merimo na vaših.

Po mesecu dni dobite svojo številko: kolikšen delež prometa, koliko to pomeni v denarju in kje usmerjanje ne pomaga. Če se izkaže, da ne pomaga, bomo to povedali.

Meritev je zaslon v konzoli, ne storitev, ki bi jo opravili mi: vzame vaše shranjene zahteve, nanje pusti odgovoriti poceni in dragemu modelu, vi pa presodite, kateri odgovor bi zadostoval. Strani sta označeni z A in B – kdor ve, katera je katera, se odloča po pričakovanju, in takrat številka ni več vaša. Rezultat dobite z razponom, ker je delež iz tridesetih presoj razpon in ne ena sama številka.