Ressourcen · AI Gateway

Welches Modell Ihre Anfrage bekommt – und wer das entscheidet

Eine einfache Frage sollte nicht so viel kosten wie eine schwierige. Das Gateway unterscheidet beide mit einem Modell, das wir betreiben, und die Entscheidung selbst geht nirgendwo hin.

Ihr Anbieter entscheidet nicht

Das Urteil fällt ein Modell, das wir betreiben – in jedem Tarif, nicht nur im teuren.

Kein Aufpreis

AWS und Azure rechnen Routing jeweils als eigenen Posten ab. Hier läuft es im selben Durchgang wie die Sicherheitsprüfungen, für die Sie ohnehin zahlen.

Überprüfbar

Die Klassifizierung stammt aus einer öffentlichen Rangliste, nicht aus unserer eigenen Bewertung.

So läuft es

Drei Schritte

1
Schwierigkeit

Ein Klassifikator, den wir betreiben, ordnet die Anfrage einer von fünf Klassen zu – auf unserer eigenen Infrastruktur in der EU oder auf Ihrer Hardware in Enterprise On-Premise.

2
Vorauswahl

Die Klasse bestimmt, welche Modelle antworten dürfen.

3
Auswahl

Davon das günstigste, das es kann.

Kein Teil der Anfrage geht zur Beurteilung an Dritte.

Wo entschieden wird

Wer Ihre Anfrage sieht, bevor ein Modell sie sieht

Ansatz
Entschieden wird
Routing-Kosten
AWS Bedrock
in der AWS-Cloud
$1 pro 1,000 Anfragen
Azure AI Foundry
in der Azure-Cloud
$0.14 pro 1M Tokens
Gehostete Gateways
beim Gateway-Anbieter
im Abonnement enthalten
Tandevia – Cloud
auf unserer eigenen Infrastruktur in der EU
0
Tandevia – Enterprise On-Premise
auf Ihrer Hardware
0

Die stärkste Formulierung, die ein gehosteter Anbieter verwendet, lautet „wir speichern sie nicht“ – nie „wir senden sie nicht“.

In unserer Cloud fällt das Urteil ein Modell, das wir in Europa betreiben, nie der Modellanbieter, an den Sie die Anfrage senden. Auf Ihrer eigenen Hardware, in Enterprise On-Premise, läuft dasselbe Modell dort, wo überhaupt nichts hinausgeht. So oder so gibt es keinen Aufpreis, denn es läuft in einem Durchgang mit den Sicherheitsprüfungen, für die Sie ohnehin zahlen.

Wettbewerberpreise wie im September 2026 veröffentlicht.

Die Belege

Was wir gemessen haben – auch das, was nicht funktioniert hat

Wir raten nicht, welches Modell in welche Klasse gehört – ein Skript leitet das aus einer öffentlichen Rangliste ab und lässt sich jederzeit neu erzeugen. Bei 18 von 45 Modellen hat es unsere eigene manuelle Einstufung korrigiert, in beide Richtungen.

Und der unangenehme Teil: Auf RouterBench, einem öffentlichen Benchmark, brachte es überhaupt nichts, die Anfrage gegen einen festen Schwellenwert zu lesen. Der Grund steckt in den Daten – bei 87% dieser Aufgaben gibt es kein günstigeres Modell, das gereicht hätte. Deshalb versprechen wir keinen Prozentsatz an Ersparnis. Wir bieten an, ihn zu messen.

Wenn es schiefgeht

Wenn ein Modell nicht antworten kann

Ein Ausfall beim Anbieter, ein erschöpftes Kontingent oder ein Rate Limit, und die Anfrage übernimmt ein anderer Anbieter derselben Klasse oder darüber – nur aus Modellen, die diese Anwendung nutzen darf. Die Antwort trägt dann eine Zeile, die das Modell nennt, das sie geschrieben hat. Für eine Anwendung, die lieber den Fehler hätte, abschaltbar.

Was wir Ihnen anbieten können

Wie viel Sie sparen, wissen wir nicht. Wir messen es.

Wie viel Ihres Verkehrs ein günstiges Modell tragen kann, hängt davon ab, was Ihre Leute tun. Ein Wettbewerber kann das nicht für Sie ausrechnen – er bräuchte dafür Ihre Prompts auf seinen Servern. Wir messen es auf Ihren.

Nach einem Monat haben Sie Ihre eigene Zahl: welcher Anteil des Verkehrs, was das in Geld ist und wo Routing nicht hilft. Wenn sich zeigt, dass es nicht hilft, sagen wir das.

Die Messung ist ein Bildschirm in der Konsole, keine Dienstleistung, die wir erbringen: Sie nimmt Ihre gespeicherten Anfragen, lässt sie von einem günstigen und einem teuren Modell beantworten, und Sie beurteilen, welche Antwort gereicht hätte. Die Seiten sind mit A und B beschriftet – wer weiß, welche welche ist, entscheidet nach Erwartung, und dann ist die Zahl nicht mehr Ihre. Das Ergebnis kommt mit einer Spanne, denn ein Anteil aus dreißig Urteilen ist ein Bereich und keine Zahl.