Chaque équipe a ouvert son compte
Le marketing a un abonnement, le dev a une clé API, quelqu’un en a payé une autre par carte. Personne ne sait dire combien l’entreprise dépense en IA chaque mois.
Tous les services
La porte · Routeur
Toute l'IA de votre entreprise entre par la même porte. Et elle choisit la moins chère qui résout le besoin.
Une clé, tout le catalogue de modèles. Chaque demande est évaluée avant de partir : peut-elle être traitée depuis le cache, par un modèle gratuit ou via l'abonnement que l'entreprise paie déjà ? L'API coûteuse est le dernier recours, et le panneau montre ce qui n'est plus sorti de la trésorerie.
UNE CLÉ POUROpenAIAnthropicGoogle+8 fournisseurs
UNE DEMANDE ENTRE
"Résumez cet e-mail en trois lignes."
Cachela même question a déjà reçu une réponse
Modèle gratuitonze fournisseurs sans coût par appel
Abonnement que vous payez déjàle compte que l'entreprise possède déjà, utilisé jusqu'à la limite
API payantedernier recours, quand la tâche l'exige vraiment
COÛT ÉVITÉ POUR CETTE DEMANDEUS$ 0,004ce qui aurait été dépensé en passant directement par l'API payante
Exemple d'acheminement. Dans votre panneau, la valeur est réelle, cumulée par période, et la couche locale n'apparaît pas, car il s'agit du matériel du propriétaire de l'appliance, pas du client.
Personne ne choisit un modèle à chaque demande. Le système choisit.
La facture d’IA n’explose pas à cause d’une demande coûteuse, elle explose parce que mille demandes peu coûteuses sont parties vers le modèle le plus cher configuré. Le Routeur évalue chacune avant son départ et utilise la couche la moins chère qui convient.
Ce qui se passe aujourd’hui
Trois factures d’IA, aucune ne sait ce que les autres ont dépensé.
Le modèle coûteux répond à une question simple
La clé configurée répond à tout. Résumer un e-mail et établir une stratégie passent au même endroit et au même prix.
Quand le fournisseur tombe, l’activité tombe avec lui
Une clé, un fournisseur, un point de défaillance. Son instabilité devient votre problème, et aucun plan B n’est configuré.
Ce que vous commencez à voir
La facture d’IA de toute l’entreprise, sur un seul écran.
Chaque appel qui passe par la porte est enregistré : qui l’a demandé, quelle couche l’a traité, combien il a coûté et combien il aurait coûté. C’est ce qui transforme « nous dépensons beaucoup en IA » en une phrase avec un chiffre derrière.
EXEMPLE D'UN INSTANTANÉ
0%
Coût évité0%
Disponibilité0
Modèles disponibles0
Équipes utilisatricesCoût évité
Ce que l’entreprise n’a pas dépensé parce que la demande a été traitée par une couche moins chère. C’est la métrique qui justifie le module à elle seule.
C’est le chiffre à apporter à la réunion sur les coûts
Disponibilité
Si un fournisseur tombe, le trafic bascule vers le suivant sans réveiller personne. Vous n’héritez du temps d’arrêt d’aucun fournisseur.
La panne des autres cesse d’être la vôtre
Modèles disponibles
Tout le catalogue derrière une seule clé, avec le même format d’appel. Changer de modèle cesse d’être un projet de migration.
Tester un nouveau modèle coûte une ligne
Équipes utilisatrices
Qui a consommé quoi, par équipe et par projet, avec un plafond par clé, pour que personne ne vide le solde par erreur.
Vous pouvez donner accès sans donner carte blanche
À l’intérieur
Comment il décide, en quatre questions.
La décision est prise avant le départ de l’appel, et l’ordre ne change jamais : elle commence par ce qui est gratuit et ne passe au payant que lorsque les options précédentes ne suffisent pas.
Cette question a-t-elle déjà été posée ?
Une demande identique avec une réponse enregistrée revient depuis le cache. Elle coûte zéro et arrive instantanément : c’est la couche qui économise le plus dans les opérations répétitives.
résout sans même quitter votre infrastructure
Un modèle gratuit suffit-il ?
Une grande partie du travail courant n’a pas besoin du modèle le plus avancé : résumer, classer, extraire. Si un modèle gratuit fournit le résultat, c’est lui qui répond.
la plus grande part du volume passe ici
Cela tient-il dans l’abonnement que vous payez déjà ?
L’entreprise a déjà des comptes d’IA. Ils entrent dans le pool et sont utilisés jusqu’à leur limite avant que le moindre centime supplémentaire ne soit dépensé.
vous utilisez ce que vous payiez déjà
Seulement ensuite : API payante.
Lorsque la tâche exige réellement le modèle coûteux, il est appelé, et le tableau de bord enregistre que la dépense était nécessaire, pas une négligence.
le coûteux devient une exception justifiée
Pour trancher
Quatre comparaisons qui tranchent.
Une clé directe fonctionne, une passerelle tierce fonctionne, et avoir un dev qui s’en occupe fonctionne. La question est ce que coûte chaque option quand le volume augmente.
Clé directe chez le fournisseurPar la porte unique
Coût par demandeToujours le prix du modèle configuré Le moins cher qui traite cette demande
Si le fournisseur tombeVotre activité tombe avec lui Bascule seul vers le suivant
Changer de modèleModifier le code et tester à nouveau Une ligne de configuration
De zéro au premier état des lieux
Trois étapes. Le premier appel en quelques minutes.
011 MINUTE
Créez la clé
Une clé Rovemark remplace les clés des fournisseurs. Vous définissez son plafond de dépense au moment de la créer.
025 MINUTES
Changez l'adresse
La passerelle accepte le format déjà utilisé par votre code. En pratique, il suffit de changer l'URL de base et la clé : le reste du code reste identique.
03LE MÊME JOUR
Voyez le coût évité
Dès le premier appel, le tableau de bord indique quelle couche a traité chaque demande et combien n'a pas été dépensé.
Dans l'entreprise
La même porte, trois soulagements différents.
Dispose enfin d'un chiffre pour « combien dépensons-nous en IA », et d'un plafond par clé, pour que la dépense ne dépende pas du bon sens.
Cesse de maintenir une intégration par fournisseur et de se réveiller quand l'un d'eux tombe. Un endpoint, et le basculement est automatique.
Ne choisissent pas de modèle, ne pensent pas au prix, ne demandent de clé à personne. Ils demandent ce dont ils ont besoin et le reçoivent.
Ce qui en sort, concrètement
01
Le relevé du mois
Dépense et coût évité par équipe, projet et période.
02
Clés avec plafond
Une par personne ou par projet, révocable, avec sa propre limite.
03
Historique de chaque appel
Quelle couche a traité, combien cela a coûté, combien cela aurait coûté.
Où l'alerte arrive
Lorsqu'une clé dépasse son plafond ou qu'un fournisseur commence à échouer, l'alerte arrive là où l'équipe se trouve déjà.
SlackE-mailWhatsApp
Voir Connect Combien ça coûte
Vous payez le modèle. La porte ne prélève pas de péage.
Le Routeur n'ajoute pas de marge par appel : le crédit consommé correspond au coût du modèle qui a répondu. Quand la réponse vient du cache, du gratuit ou de votre propre abonnement, aucun crédit n'est consommé.
Traité dans le cacheQuestion dont la réponse était déjà enregistrée.
0 crédits
Traité par le gratuit ou votre abonnementLa plus grande partie du volume courant arrive ici.
0 crédits
Traité par l'API payanteSeulement lorsque la tâche exige le modèle coûteux.
custo crédits
Le plan gratuit active déjà le Routeur avec les modèles sans coût par appel. Vous pouvez faire passer toute l'activité courante sans dépenser de crédit et voir, dans le tableau de bord, combien cela aurait coûté ailleurs.
Voir tous les plansAvant que vous demandiez
Ce qu'on veut généralement savoir.
Dois-je réécrire mon code ?
Non. La passerelle accepte le format déjà utilisé par la plupart des bibliothèques, donc en pratique vous changez l'URL de base et la clé. Ce qui appelait directement un fournisseur appelle la porte, et le routage se fait de l'autre côté.
Et si le routage choisit un modèle moins bon ?
Le choix se fait selon la capacité, pas au hasard : chaque type de tâche a un niveau de qualité minimal, et un modèle n'est utilisé que s'il atteint ce niveau. Vous pouvez aussi fixer un modèle précis pour une route quand vous le souhaitez : l'économie est la règle, pas une obligation.
Puis-je utiliser mes abonnements actuels ?
C'est précisément le principe. Les comptes que l'entreprise paie déjà entrent dans le pool et sont utilisés jusqu'à leur limite avant toute nouvelle dépense : beaucoup découvrent ici qu'ils payaient deux fois pour la même capacité.
Que se passe-t-il si la porte est indisponible ?
Elle se dégrade proprement : elle renvoie une réponse explicite d'indisponibilité au lieu de bloquer, et votre code la traite comme la panne de n'importe quel fournisseur. Rien ne reste en attente.
Conservez-vous le contenu de mes demandes ?
Ce qui est conservé vous appartient, chiffré avec votre clé, et sert au cache ainsi qu'à l'historique que vous consultez vous-même. Vous pouvez tout exporter quand vous le souhaitez et cela ne sert à entraîner le modèle de personne.
LES AUTRES ORGANES
La porte sert les autres organes.
Chaque demande de tous les modules passe par ici. L'économie du Routeur apparaît donc sur la facture de tout le système, pas seulement pour ceux qui appellent l'API directement.
LES AUTRES ORGANES
Aucun module ne travaille seul.
Chacun gère un front, et tous écrivent dans la même mémoire. Découvrez les autres et la façon dont ils s’intègrent à celui-ci.