Ištekliai · AI Gateway

Kuris modelis gaus jūsų užklausą – ir kas tai nusprendžia

Paprastas klausimas neturėtų kainuoti tiek, kiek sudėtingas. Gateway juos atskiria mūsų valdomu modeliu, o pats sprendimas niekada neišeina.

Sprendžia ne jūsų teikėjas

Sprendimą priima mūsų valdomas modelis – visuose planuose, ne tik brangiajame.

Jokio antkainio

AWS ir Azure nukreipimą apmokestina kaip atskirą eilutę. Čia jis vyksta to paties apdorojimo metu kaip ir saugos patikros, už kurias jau mokate.

Patikrinama

Klasifikacija paimta iš viešos lyderių lentelės, o ne iš mūsų pačių vertinimo.

Kaip tai vyksta

Trys žingsniai

1
Sudėtingumas

Mūsų valdomas klasifikatorius priskiria užklausą vienai iš penkių klasių – mūsų pačių infrastruktūroje ES arba jūsų įrangoje, kai naudojamas Enterprise on-premise.

2
Atranka

Klasė nulemia, kurie modeliai gali į ją atsakyti.

3
Pasirinkimas

Iš jų – pigiausias, kuris pajėgia.

Jokia užklausos dalis nepatenka trečiajai šaliai, kad būtų įvertinta.

Kur priimamas sprendimas

Kas mato jūsų užklausą anksčiau už modelį

Būdas
Kur sprendžiama
Kaina
AWS Bedrock
AWS debesyje
$1 / 1,000 užklausų
Azure AI Foundry
Azure debesyje
$0.14 / 1M tokenų
Talpinami DI vartai
pas gateway tiekėją
įskaičiuota į prenumeratą
Tandevia — debesis
mūsų pačių infrastruktūroje ES
0
Tandevia — Enterprise on-premise
jūsų įrangoje
0

Stipriausia formuluotė, kurią vartoja talpinimo paslaugų tiekėjas, yra „mes jos nesaugome“ – niekada „mes jos nesiunčiame“.

Mūsų debesyje sprendimą priima modelis, kurį valdome Europoje, o niekada ne modelio tiekėjas, kuriam siunčiate užklausą. Jūsų pačių įrangoje, Enterprise on-premise atveju, tas pats modelis veikia ten, iš kur apskritai niekas neišeina. Abiem atvejais antkainio nėra, nes jis vyksta to paties apdorojimo metu kaip ir saugos patikros, už kurias jau mokate.

Konkurentų kainos, paskelbtos 2026 m. rugsėjį.

Įrodymai

Ką išmatavome, įskaitant tai, kas nesuveikė

Nespėliojame, kuris modelis kuriai klasei priklauso: scenarijus tai išveda iš viešos lyderių lentelės ir bet kada gali būti sugeneruotas iš naujo. 18 iš 45 modelių jis pataisė mūsų pačių rankinį priskyrimą, abiem kryptimis.

Ir nepatogi dalis: viešame etaloniniame teste RouterBench užklausos skaitymas pagal fiksuotą slenkstį nedavė visiškai nieko. Priežastis – duomenyse: 87% tų užduočių nėra pigesnio modelio, kurio būtų pakakę. Todėl nežadame sutaupytų procentų. Siūlome tai išmatuoti.

Kai nepavyksta

Kai modelis negali atsakyti

Teikėjo sutrikimas, išnaudota kvota ar dažnio riba – ir užklausą perima kitas teikėjas iš tos pačios ar aukštesnės klasės, tik iš tų modelių, kuriuos tai programai leidžiama naudoti. Tada atsakyme įrašoma eilutė, nurodanti jį parašiusį modelį. Programai, kuri verčiau gautų klaidą, tai galima išjungti.

Ką galime jums pasiūlyti

Kiek sutaupytumėte, nežinome. Išmatuosime.

Kiek jūsų srauto gali paimti pigus modelis, priklauso nuo to, ką daro jūsų žmonės. Konkurentas to už jus neapskaičiuos – jam reikėtų jūsų užklausų savo serveriuose. Mes matuojame jūsiškiuose.

Po mėnesio gaunate savo skaičių: kokia srauto dalis, kiek tai pinigais ir kur nukreipimas nepadeda. Jei paaiškės, kad nepadeda, taip ir pasakysime.

Matavimas yra konsolės ekranas, o ne mūsų atliekama paslauga: jis paima jūsų išsaugotas užklausas, leidžia į jas atsakyti ir pigiam, ir brangiam modeliui, o jūs sprendžiate, kuris atsakymas būtų tikęs. Pusės pažymėtos A ir B – kas žino, kuri yra kuri, sprendžia pagal lūkestį, ir tada skaičius jau nebe jūsų. Rezultatą gaunate su intervalu, nes iš trisdešimties vertinimų apskaičiuota dalis yra intervalas, o ne vienas skaičius.