Resurse · AI Gateway

Care model primește solicitarea dumneavoastră – și cine decide

O întrebare simplă nu ar trebui să coste cât una grea. Gateway le deosebește cu un model pe care îl rulăm noi, iar decizia în sine nu pleacă nicăieri.

Furnizorul dumneavoastră nu decide

Judecata este făcută de un model pe care îl operăm noi – în fiecare plan, nu doar în cel scump.

Fără suprataxă

AWS și Azure facturează amândouă direcționarea ca linie separată. Aici rulează în aceeași trecere cu verificările de securitate pe care le plătiți deja.

Verificabil

Clasificarea provine dintr-un clasament public, nu din punctajul nostru.

Cum rulează

Trei pași

1
Dificultate

Un clasificator pe care îl operăm noi încadrează solicitarea în una dintre cinci clase – pe infrastructura noastră din UE sau pe hardware-ul dumneavoastră, în Enterprise on-premise.

2
Candidați

Clasa decide ce modele au dreptul să îi răspundă.

3
Alegere

Dintre acestea, cel mai ieftin care face față.

Nicio parte a solicitării nu ajunge la un terț pentru a fi evaluată.

Unde se ia decizia

Cine vede solicitarea dumneavoastră înaintea unui model

Abordare
Decizia se ia
Cost direcționare
AWS Bedrock
în cloudul AWS
$1 la 1,000 de solicitări
Azure AI Foundry
în cloudul Azure
$0.14 la 1M de tokenuri
Gateway-uri găzduite
la furnizorul gateway-ului
inclus în abonament
Tandevia – cloud
pe infrastructura noastră din UE
0
Tandevia – Enterprise on-premise
pe hardware-ul dumneavoastră
0

Cea mai puternică formulare pe care o folosește un furnizor găzduit este „nu o stocăm” – niciodată „nu o trimitem”.

În cloudul nostru, judecata este făcută de un model pe care îl rulăm în Europa, niciodată de furnizorul de model căruia îi trimiteți solicitarea. Pe hardware-ul dumneavoastră, în Enterprise on-premise, același model rulează acolo unde nu iese nimic deloc. Oricum ar fi, nu există suprataxă, pentru că rulează într-o singură trecere cu verificările de securitate pe care le plătiți deja.

Prețurile concurenței așa cum au fost publicate în septembrie 2026.

Dovezile

Ce am măsurat, inclusiv ce nu a funcționat

Nu ghicim ce model aparține cărei clase – un script îl derivă dintr-un clasament public și poate fi regenerat oricând. La 18 din 45 de modele a corectat propria noastră clasificare manuală, în ambele sensuri.

Și partea incomodă: pe RouterBench, un test public de referință, citirea solicitării în raport cu un prag fix nu a adus absolut nimic. Motivul se află în date – pentru 87% dintre acele sarcini nu există un model mai ieftin care să fi fost suficient. De aceea nu promitem un procent economisit. Ne oferim să îl măsurăm.

Când merge prost

Când un model nu poate răspunde

O pană a furnizorului, o cotă epuizată sau o limită de rată – și solicitarea este preluată de alt furnizor din aceeași clasă sau de mai sus, doar dintre modelele pe care acea aplicație are voie să le folosească. Răspunsul poartă atunci o linie cu numele modelului care l-a scris. Se poate dezactiva pentru o aplicație care preferă eroarea.

Ce vă putem oferi

Cât ați economisi nu știm. O vom măsura.

Cât din traficul dumneavoastră poate duce un model ieftin depinde de ce fac oamenii dumneavoastră. Un concurent nu poate calcula asta în locul dumneavoastră – ar avea nevoie de prompturile dumneavoastră pe serverele lui. Noi o măsurăm pe ale dumneavoastră.

După o lună primiți propriul dumneavoastră număr: ce parte din trafic, cât înseamnă în bani și unde direcționarea nu ajută. Dacă se dovedește că nu ajută, o vom spune.

Măsurătoarea este un ecran în consolă, nu un serviciu pe care îl prestăm noi: ia solicitările dumneavoastră salvate, pune un model ieftin și unul scump să răspundă la ele, iar dumneavoastră judecați care răspuns ar fi fost de ajuns. Părțile sunt etichetate A și B – cine știe care e care decide după așteptări, iar atunci numărul nu mai este al dumneavoastră. Rezultatul vine cu un interval, pentru că o proporție din treizeci de judecăți este un interval, nu o cifră.