Resursi · AI Gateway

Kurš modelis saņem jūsu pieprasījumu – un kas to izlemj

Vienkāršam jautājumam nav jāmaksā tikpat, cik sarežģītam. Gateway tos atšķir ar mūsu darbinātu modeli, un pats lēmums nekad neaiziet.

Neizlemj jūsu pakalpojumu sniedzējs

Spriedumu pieņem mūsu darbināts modelis – visos plānos, ne tikai dārgajā.

Bez piemaksas

Gan AWS, gan Azure maršrutēšanu rēķina kā atsevišķu pozīciju. Šeit tā notiek vienā gājienā ar drošības pārbaudēm, par kurām jūs jau maksājat.

Pārbaudāms

Klasifikācija nāk no publiska līderu saraksta, nevis no mūsu pašu vērtējuma.

Kā tas notiek

Trīs soļi

1
Sarežģītība

Mūsu darbināts klasifikators iedala pieprasījumu vienā no piecām klasēm – mūsu pašu infrastruktūrā ES vai uz jūsu aparatūras Enterprise on-premise variantā.

2
Atlase

Klase nosaka, kuri modeļi drīkst uz to atbildēt.

3
Izvēle

No tiem – lētākais, kas to spēj.

Neviena pieprasījuma daļa netiek nodota trešajai pusei, lai to novērtētu.

Kur tiek pieņemts lēmums

Kas redz jūsu pieprasījumu pirms modeļa

Pieeja
Kur tiek lemts
Izmaksas
AWS Bedrock
AWS mākonī
$1/1,000 pieprasījumu
Azure AI Foundry
Azure mākonī
$0.14/1M tokenu
Mitināti gateway risinājumi
pie gateway piegādātāja
iekļauts abonementā
Tandevia — mākonis
mūsu pašu infrastruktūrā ES
0
Tandevia — Enterprise on-premise
uz jūsu aparatūras
0

Spēcīgākais formulējums, ko lieto mitināšanas piegādātājs, ir „mēs to neuzglabājam“ – nekad „mēs to nesūtām“.

Mūsu mākonī spriedumu pieņem modelis, ko darbinām Eiropā, nekad ne modeļa piegādātājs, kuram jūs sūtāt pieprasījumu. Uz jūsu pašu aparatūras, Enterprise on-premise variantā, tas pats modelis darbojas tur, no kurienes vispār nekas neaiziet. Abos gadījumos piemaksas nav, jo tas notiek vienā gājienā ar drošības pārbaudēm, par kurām jūs jau maksājat.

Konkurentu cenas, kā publicēts 2026. gada septembrī.

Pierādījumi

Ko mēs izmērījām, tostarp to, kas neizdevās

Mēs neminam, kurš modelis pieder kurai klasei: skripts to atvasina no publiska līderu saraksta, un to jebkurā brīdī var ģenerēt no jauna. 18 no 45 modeļiem tas izlaboja mūsu pašu manuālo klasifikāciju, abos virzienos.

Un neērtā daļa: publiskajā etalontestā RouterBench pieprasījuma nolasīšana pret fiksētu slieksni nedeva pilnīgi neko. Iemesls ir datos – 87% no šiem uzdevumiem nav lētāka modeļa, kas būtu pieticis. Tāpēc mēs nesolām ietaupījuma procentus. Mēs piedāvājam to izmērīt.

Kad kaut kas noiet greizi

Kad modelis nevar atbildēt

Pakalpojumu sniedzēja darbības traucējumi, izsmelta kvota vai pieprasījumu biežuma ierobežojums – un pieprasījumu pārņem cits pakalpojumu sniedzējs tajā pašā vai augstākā klasē, tikai no modeļiem, kurus attiecīgā lietojumprogramma drīkst izmantot. Atbildei tad ir pievienota rinda, kas nosauc modeli, kurš to uzrakstīja. Lietojumprogrammai, kas labāk saņemtu kļūdu, to var izslēgt.

Ko mēs varam jums piedāvāt

Cik daudz jūs ietaupītu, mēs nezinām. Mēs to izmērīsim.

Cik lielu jūsu datplūsmas daļu var panest lēts modelis, atkarīgs no tā, ko dara jūsu cilvēki. Konkurents to jūsu vietā neizrēķinās – viņam vajadzētu jūsu uzvednes savos serveros. Mēs to mērām jūsējos.

Pēc mēneša jūs saņemat savu skaitli: kāda datplūsmas daļa, cik tas ir naudā un kur maršrutēšana nepalīdz. Ja izrādīsies, ka tā nepalīdz, mēs to pateiksim.

Mērījums ir ekrāns konsolē, nevis pakalpojums, ko sniedzam mēs: tas paņem jūsu saglabātos pieprasījumus, liek uz tiem atbildēt gan lētam, gan dārgam modelim, un jūs vērtējat, kura atbilde būtu bijusi pietiekama. Puses ir apzīmētas ar A un B – kas zina, kura ir kura, lemj pēc gaidām, un tad skaitlis vairs nav jūsu. Rezultātu saņemat ar izkliedi, jo daļa, kas aprēķināta no trīsdesmit vērtējumiem, ir diapazons, nevis viens skaitlis.