Elke afdeling heeft haar eigen account geopend
Marketing heeft een abonnement, de developer heeft een API-sleutel, iemand betaalde nog een andere met de kaart. Niemand kan zeggen hoeveel het bedrijf per maand aan AI uitgeeft.
Alle diensten
De deur · Router
Alle AI in uw bedrijf komt door dezelfde deur binnen. En hij kiest de goedkoopste optie die werkt.
Eén sleutel, de volledige modelcatalogus. Elk verzoek wordt beoordeeld voordat het vertrekt: kan het uit de cache worden beantwoord, met een gratis model of via het abonnement dat het bedrijf al betaalt? De dure API is het laatste redmiddel, en het dashboard toont hoeveel daardoor niet uit de kas ging.
EEN SLEUTEL VOOROpenAIAnthropicGoogle+8 aanbieders
EEN VERZOEK KOMT BINNEN
"Vat deze e-mail samen in drie regels."
Cachedezelfde vraag is eerder al beantwoord
Gratis modelelf aanbieders zonder kosten per aanvraag
Abonnement dat u al betaalthet account dat het bedrijf al heeft, gebruikt tot aan de limiet
Betaalde APIlaatste redmiddel, wanneer de taak het echt vereist
VERMEDEN KOSTEN VOOR DIT VERZOEKUS$ 0,004wat er zou zijn uitgegeven bij directe toegang tot de betaalde API
Voorbeeld van routing. In uw dashboard is de waarde werkelijk, opgeteld per periode, en de lokale laag verschijnt niet omdat die hardware van de eigenaar van het appliance is, niet van de klant.
Niemand kiest bij elk verzoek een model. Het systeem kiest.
De AI-rekening loopt niet uit de hand door één duur verzoek, maar omdat duizend goedkope verzoeken naar het duurste geconfigureerde model gingen. De Router beoordeelt elk verzoek vooraf en gebruikt de goedkoopste laag die het aankan.
Wat er vandaag gebeurt
Drie AI-rekeningen, geen ervan weet wat de andere heeft uitgegeven.
Het dure model beantwoordt een goedkope vraag
De geconfigureerde sleutel handelt alles af. Een e-mail samenvatten en een strategie opstellen gaan via dezelfde route, voor dezelfde prijs.
Als de provider uitvalt, valt de operatie mee uit
Eén sleutel, één leverancier, één storingspunt. Hun instabiliteit wordt jouw probleem, en er is geen plan B geconfigureerd.
Wat je voortaan ziet
De AI-rekening van het hele bedrijf, op één scherm.
Elke oproep die door de gateway gaat, wordt vastgelegd: wie het vroeg, welke laag het oploste, wat het kostte en wat het zou hebben gekost. Zo wordt "we geven veel uit aan AI" een zin met een getal erachter.
VOORBEELD VAN EEN MOMENTOPNAME
0%
Vermeden kosten0%
Beschikbaarheid0
Beschikbare modellen0
Afdelingen die het gebruikenVermeden kosten
Wat het bedrijf niet heeft uitgegeven omdat het verzoek in een goedkopere laag is opgelost. De metriek die deze module op zichzelf rechtvaardigt.
Dit is het getal dat je meeneemt naar de kostenvergadering
Beschikbaarheid
Als een provider uitvalt, wordt het verkeer automatisch naar de volgende geleid, zonder dat iemand wakker wordt. Je neemt geen downtime van leveranciers over.
Hun storing is niet langer jouw storing
Beschikbare modellen
De volledige catalogus achter één sleutel, met hetzelfde oproepformaat. Van model wisselen is geen migratieproject meer.
Een nieuw model testen kost één regel
Afdelingen die het gebruiken
Wie wat gebruikte, per afdeling en per project, met een limiet per sleutel, zodat niemand per ongeluk het saldo leegtrekt.
Je kunt toegang geven zonder blanco cheque
Van binnen
Hoe hij beslist, in vier vragen.
De beslissing wordt genomen voordat de oproep vertrekt, en de volgorde verandert nooit: het begint met wat gratis is en gaat pas naar betaald wanneer de bovenliggende opties het niet aankunnen.
Is dit al eerder gevraagd?
Een identiek verzoek met een opgeslagen antwoord komt uit de cache. Het kost niets en arriveert meteen: dit is de laag die het meest bespaart bij repetitief werk.
lost het op zonder je infrastructuur te verlaten
Kan een gratis model dit oplossen?
Een groot deel van het routinewerk heeft geen topmodel nodig: samenvatten, classificeren, extraheren. Als een gratis model het levert, geeft dat het antwoord.
het grootste deel van het volume komt hier terecht
Past het binnen het abonnement dat je al betaalt?
Het bedrijf heeft al AI-accounts. Die komen in de pool en worden tot de limiet gebruikt voordat er ook maar één nieuwe cent wordt uitgegeven.
je gaat gebruiken waarvoor je al betaalde
Pas dan: betaalde API.
Wanneer de taak echt het dure model vereist, wordt het aangeroepen, en het dashboard registreert dat de uitgave daar nodig was, geen onoplettendheid.
het dure wordt een gerechtvaardigde uitzondering
Om de twijfel weg te nemen
Vier vergelijkingen die dit beslissen.
Een directe sleutel werkt, een gateway van een derde werkt, en een developer die dit beheert werkt. Het punt is wat elk kost wanneer het volume groeit.
Directe sleutel bij de providerVia de centrale gateway
Kosten per verzoekAltijd de prijs van het geconfigureerde model Het goedkoopste model dat dat verzoek oplost
Als de provider uitvaltJouw operatie valt mee uit Leidt automatisch naar de volgende
Van model wisselenCode aanpassen en opnieuw testen Eén configuratieregel
Van nul naar het eerste beeld
Drie stappen. De eerste oproep in enkele minuten.
011 MINUUT
Maak de sleutel
Eén Rovemark-sleutel vervangt de sleutels van de providers. Je bepaalt bij het aanmaken meteen de bestedingslimiet.
025 MINUTEN
Wijzig het adres
De gateway accepteert het formaat dat je code al gebruikt. In de praktijk wijzig je de basis-URL en de sleutel: de rest van de code blijft hetzelfde.
03DEZELFDE DAG
Bekijk de vermeden kosten
Vanaf de eerste oproep toont het dashboard welke laag elk verzoek heeft afgehandeld en hoeveel kosten zijn vermeden.
Binnen het bedrijf
Dezelfde poort, drie verschillende vormen van verlichting.
Krijgt een cijfer voor "wat geven we uit aan AI", en een limiet per sleutel, zodat uitgaven niet van gezond verstand afhangen.
Onderhoudt niet langer een integratie per provider en wordt niet meer wakker wanneer er één uitvalt. Eén endpoint, en de omleiding gebeurt automatisch.
Kiest geen model, denkt niet aan prijs, vraagt niemand om een sleutel. Vraagt wat nodig is en krijgt het.
Wat hier concreet uitkomt
01
Het maandoverzicht
Uitgaven en vermeden kosten per afdeling, project en periode.
02
Sleutels met limiet
Eén per persoon of per project, intrekbaar, met een eigen limiet.
03
Geschiedenis van elke oproep
Welke laag het afhandelde, wat het kostte, wat het zou hebben gekost.
Waar de melding aankomt
Wanneer een sleutel de limiet overschrijdt of een provider begint te falen, komt de melding aan waar het team al werkt.
SlackE-mailWhatsApp
Bekijk Connect Wat het kost
Je betaalt voor het model. De poort heft geen tol.
De Router rekent geen marge per oproep: het verbruikte krediet is de kost van het model dat antwoordde. Wanneer de cache, de gratis versie of je eigen abonnement antwoordt, is er helemaal geen kredietverbruik.
Afgehandeld in de cacheEen vraag waarvan het antwoord al was opgeslagen.
0 credits
Afgehandeld door de gratis versie of je abonnementHet grootste deel van het routinevolume komt hier terecht.
0 credits
Afgehandeld via de betaalde APIAlleen wanneer de taak het dure model vereist.
custo credits
Het gratis abonnement schakelt de Router al in met modellen zonder kosten per oproep. Je kunt de hele routineoperatie doorlopen zonder krediet te verbruiken en in het dashboard zien wat dat elders zou hebben gekost.
Bekijk alle plannenVoordat je het vraagt
Wat mensen meestal willen weten.
Moet ik mijn code herschrijven?
Nee. De gateway accepteert het formaat dat de meeste bibliotheken al gebruiken, dus in de praktijk wijzig je de basis-URL en de sleutel. Wat rechtstreeks een provider aanriep, roept nu de poort aan, en de routing gebeurt aan de andere kant.
Wat als de routing een slechter model kiest?
De keuze is op capaciteit gebaseerd, niet op toeval: elk type taak heeft een minimumniveau van kwaliteit, en een model komt alleen in aanmerking als het dat niveau aankan. Je kunt ook een specifiek model voor een route vastzetten wanneer je wilt: besparing is de standaard, geen verplichting.
Kan ik mijn huidige abonnementen gebruiken?
Dat is precies het punt. De accounts waarvoor het bedrijf al betaalt, komen in de pool en worden tot de limiet gebruikt voordat er nieuwe uitgaven zijn: veel mensen ontdekken hier dat ze dubbel betaalden voor dezelfde capaciteit.
Wat gebeurt er als de poort niet beschikbaar is?
Die faalt netjes: hij geeft een expliciet antwoord van onbeschikbaarheid terug in plaats van vast te lopen, en je code behandelt het zoals de uitval van elke provider. Niets blijft hangen in afwachting.
Bewaren jullie de inhoud van mijn verzoeken?
Wat wordt bewaard is van jou, versleuteld met je eigen sleutel, en bestaat voor de cache en de geschiedenis die je zelf raadpleegt. Het kan volledig weg op de dag die je kiest en wordt niemands modeltraining.
DE ANDERE ORGANEN
De poort bedient de andere onderdelen.
Elk verzoek van alle modules gaat hierlangs, daarom verschijnt de besparing van de Router in de kosten van het hele systeem, niet alleen van wie de API handmatig aanroept.
DE ANDERE ORGANEN
Geen enkele module werkt alleen.
Elke module lost een onderdeel op en ze schrijven allemaal in hetzelfde geheugen. Bekijk de andere modules en hoe ze hierin passen.