Ресурси · AI Gateway

Кой модел получава вашата заявка – и кой решава

Простият въпрос не бива да струва колкото трудния. Gateway ги различава с модел, който ние управляваме, и самото решение никога не излиза навън.

Вашият доставчик не решава

Преценката прави модел, който ние управляваме – във всеки план, не само в скъпия.

Без доплащане

AWS и Azure таксуват маршрутизирането като отделно перо. Тук то върви в същия проход като проверките за сигурност, които вече плащате.

Проверимо

Класификацията идва от публична класация, а не от наше собствено оценяване.

Как протича

Три стъпки

1
Трудност

Класификатор, който управляваме ние, разпределя заявката в един от пет класа – в нашата собствена инфраструктура в ЕС или на вашия хардуер при Enterprise на собствена инфраструктура.

2
Кратък списък

Класът определя кои модели имат право да отговорят.

3
Избор

От тях – най-евтиният, който се справя.

Никоя част от заявката не отива при трета страна, за да бъде преценена.

Къде се взема решението

Кой вижда вашата заявка, преди да я види модел

Подход
Къде се решава
Цена на маршрута
AWS Bedrock
в облака на AWS
$1 на 1,000 заявки
Azure AI Foundry
в облака на Azure
$0.14 на 1M токена
Хоствани шлюзове
при доставчика на шлюза
включено в абонамента
Tandevia – облак
на наша собствена инфраструктура в ЕС
0
Tandevia – Enterprise на собствена инфраструктура
на вашия хардуер
0

Най-силната формулировка, която използва хостван доставчик, е „не го съхраняваме“ – никога „не го изпращаме“.

В нашия облак преценката прави модел, който ние управляваме в Европа, никога доставчикът на модела, на когото изпращате заявката. На вашия собствен хардуер, при Enterprise на собствена инфраструктура, същият модел работи там, откъдето изобщо нищо не излиза. И в двата случая няма доплащане, защото той върви в един проход с проверките за сигурност, които вече плащате.

Цени на конкурентите според публикуваното през септември 2026 г.

Доказателствата

Какво измерихме, включително какво не се получи

Не гадаем кой модел в кой клас попада – скрипт го извежда от публична класация и може да бъде пуснат наново по всяко време. При 18 от 45 модела той поправи нашата собствена ръчна класификация, и то в двете посоки.

И неудобната част: на RouterBench, публичен бенчмарк, четенето на заявката спрямо фиксиран праг не донесе абсолютно нищо. Причината е в данните – при 87% от тези задачи няма по-евтин модел, който би бил достатъчен. Затова не обещаваме процент спестено. Предлагаме да го измерим.

Когато се обърка

Когато модел не може да отговори

Срив при доставчик, изчерпана квота или ограничение на честотата – и заявката се поема от друг доставчик от същия клас или по-висок, само измежду моделите, които това приложение има право да използва. Тогава отговорът носи ред, който назовава модела, който го е написал. Може да се изключи за приложение, което предпочита да получи грешката.

Какво можем да ви предложим

Колко ще спестите, не знаем. Ще го измерим.

Каква част от трафика ви може да поеме евтин модел зависи от това какво правят хората ви. Конкурент не може да го изчисли вместо вас – биха му трябвали вашите промптове на неговите сървъри. Ние го измерваме на вашите.

След месец получавате собствено число: какъв дял от трафика, колко е това в пари и къде маршрутизирането не помага. Ако се окаже, че не помага, ще го кажем.

Измерването е екран в конзолата, а не услуга, която извършваме ние: взема вашите съхранени заявки, кара и евтин, и скъп модел да отговорят на тях, а вие преценявате кой отговор би свършил работа. Страните са означени с A и B – който знае коя е коя, решава според очакването си, и тогава числото вече не е вашето. Резултатът идва с разсейване, защото дял от тридесет преценки е диапазон, а не точна стойност.