Jede Abteilung hat ihr eigenes eröffnet
Das Marketing hat ein Abonnement, der Entwickler einen API-Schlüssel, jemand anderes hat ein weiteres mit der Karte bezahlt. Niemand kann sagen, wie viel das Unternehmen monatlich für KI ausgibt.
Alle Services
Die Tür · Router
Jede KI Ihres Unternehmens kommt durch dieselbe Tür. Und sie wählt die günstigste Lösung.
Ein Schlüssel, der gesamte Modellkatalog. Jede Anfrage wird vor dem Versand bewertet: Kann sie aus dem Cache, mit einem kostenlosen Modell oder über das Abonnement beantwortet werden, das das Unternehmen bereits bezahlt? Die teure API ist der letzte Ausweg, und das Dashboard zeigt, wie viel dadurch im Budget geblieben ist.
EIN SCHLÜSSEL FÜROpenAIAnthropicGoogle+8 Anbieter
EINE ANFRAGE GEHT EIN
"Fasse diese E-Mail in drei Zeilen zusammen."
Cachedieselbe Frage wurde bereits beantwortet
Kostenloses Modellelf Anbieter ohne Kosten pro Aufruf
Abonnement, das Sie bereits bezahlendas Konto, das das Unternehmen bereits hat, wird bis zum Limit genutzt
Kostenpflichtige APIletzter Ausweg, wenn die Aufgabe es wirklich erfordert
IN DIESER ANFRAGE VERMIEDENE KOSTENUS$ 0,004was es bei direkter Nutzung der kostenpflichtigen API gekostet hätte
Beispiel für die Weiterleitung. In Ihrem Dashboard ist der Wert real, nach Zeitraum summiert, und die lokale Ebene erscheint nicht, weil sie Hardware des Appliance-Eigentümers ist, nicht des Kunden.
Niemand wählt bei jeder Anfrage ein Modell. Das System wählt.
Die KI-Rechnung explodiert nicht wegen einer teuren Anfrage, sondern weil tausend günstige Anfragen an das teuerste konfigurierte Modell gingen. Der Router bewertet jede Anfrage vor dem Versand und nutzt die günstigste Ebene, die sie bewältigt.
Was heute passiert
Drei KI-Konten, keines weiß, was das andere ausgegeben hat.
Das teure Modell beantwortet eine günstige Frage
Der konfigurierte Schlüssel bedient alles. Eine E-Mail zusammenzufassen und eine Strategie zu erstellen, läuft über denselben Weg und kostet gleich viel.
Wenn der Anbieter ausfällt, fällt der Betrieb mit aus
Ein Schlüssel, ein Anbieter, ein Ausfallpunkt. Seine Instabilität wird zu Ihrem Problem, und es gibt keinen konfigurierten Plan B.
Was Sie künftig sehen
Die KI-Rechnung des gesamten Unternehmens auf einem Bildschirm.
Jeder Aufruf, der durch den zentralen Zugang geht, wird erfasst: wer angefragt hat, welche Ebene es gelöst hat, was es gekostet hat und was es gekostet hätte. Das macht aus "wir geben viel für KI aus" einen Satz mit einer Zahl dahinter.
BEISPIEL EINER AUFNAHME
0%
Vermiedene Kosten0%
Verfügbarkeit0
Verfügbare Modelle0
Nutzende BereicheVermiedene Kosten
Wie viel das Unternehmen nicht ausgeben musste, weil die Anfrage auf einer günstigeren Ebene gelöst wurde. Diese Kennzahl rechtfertigt das Modul allein.
Das ist die Zahl für das Kostengespräch
Verfügbarkeit
Wenn ein Anbieter ausfällt, wird der Verkehr automatisch zum nächsten umgeleitet. Sie übernehmen keinen Ausfall eines Anbieters.
Der Ausfall des anderen ist nicht mehr Ihrer
Verfügbare Modelle
Der gesamte Katalog hinter nur einem Schlüssel, mit demselben Aufrufformat. Ein Modellwechsel ist kein Migrationsprojekt mehr.
Ein neues Modell zu testen kostet eine Zeile
Nutzende Bereiche
Wer was genutzt hat, nach Bereich und Projekt, mit Limit pro Schlüssel, damit niemand das Guthaben versehentlich aufbraucht.
Sie können Zugriff geben, ohne einen Blankoscheck auszustellen
Im Inneren
Wie er entscheidet, in vier Fragen.
Die Entscheidung fällt, bevor der Aufruf gesendet wird, und die Reihenfolge ändert sich nie: Sie beginnt mit dem Kostenlosen und geht erst zum Kostenpflichtigen, wenn die oberen Optionen nicht ausreichen.
Wurde das schon gefragt?
Eine identische Anfrage mit gespeicherter Antwort kommt aus dem Cache zurück. Sie kostet null und ist sofort da: Das ist die Ebene, die bei wiederkehrenden Abläufen am meisten spart.
löst es, ohne Ihre Infrastruktur zu verlassen
Löst ein kostenloses Modell das?
Ein großer Teil der Routinearbeit braucht kein Spitzenmodell: zusammenfassen, klassifizieren, extrahieren. Wenn ein kostenloses Modell liefert, antwortet es.
der größte Teil des Volumens landet hier
Passt es in das Abonnement, das Sie bereits bezahlen?
Das Unternehmen hat bereits KI-Konten. Sie kommen in den Pool und werden bis zum Limit genutzt, bevor auch nur ein neuer Cent ausgegeben wird.
Sie nutzen, wofür Sie bereits bezahlt haben
Erst dann: kostenpflichtige API.
Wenn die Aufgabe das teure Modell wirklich erfordert, wird es aufgerufen, und das Dashboard zeigt, dass die Ausgabe dort notwendig war, nicht nachlässig.
das Teure wird zur begründeten Ausnahme
Um den Zweifel auszuräumen
Vier Vergleiche, die das entscheiden.
Ein direkter Schlüssel funktioniert, ein Gateway eines Drittanbieters funktioniert, und ein Entwickler, der sich darum kümmert, funktioniert. Entscheidend ist, was jede Option kostet, wenn das Volumen wächst.
Direkter Schlüssel beim AnbieterÜber den zentralen Zugang
Kosten pro AnfrageImmer der Preis des konfigurierten Modells Das günstigste Modell, das diese Anfrage löst
Wenn der Anbieter ausfälltIhr Betrieb fällt mit aus Wird automatisch zum nächsten umgeleitet
Modell wechselnCode ändern und erneut testen Eine Konfigurationszeile
Von null zum ersten Bild
Drei Schritte. Der erste Aufruf in Minuten.
011 MINUTE
Erstellen Sie den Schlüssel
Ein Rovemark-Schlüssel ersetzt die Schlüssel der Anbieter. Sie legen sein Ausgabenlimit direkt bei der Erstellung fest.
025 MINUTEN
Ändern Sie die Adresse
Das Gateway akzeptiert das Format, das Ihr Code bereits nutzt. Praktisch ändern Sie die Basis-URL und den Schlüssel: Der restliche Code bleibt gleich.
03AM SELBEN TAG
Sehen Sie die vermiedenen Kosten
Ab dem ersten Aufruf zeigt das Dashboard, welche Ebene jede Anfrage gelöst hat und wie viel eingespart wurde.
Im Unternehmen
Derselbe Zugang, drei unterschiedliche Entlastungen.
Sie erhalten eine Zahl für „Wie viel geben wir für KI aus?“ und ein Limit pro Schlüssel, damit die Ausgaben nicht vom guten Willen abhängen.
Sie müssen nicht mehr für jeden Anbieter eine Integration pflegen oder aufwachen, wenn einer ausfällt. Ein Endpoint, und die Umleitung erfolgt automatisch.
Wählt kein Modell, denkt nicht an Preise und bittet niemanden um einen Schlüssel. Fordert an, was gebraucht wird, und erhält es.
Was hier konkret herauskommt
01
Die Monatsabrechnung
Ausgaben und vermiedene Kosten nach Bereich, Projekt und Zeitraum.
02
Schlüssel mit Limit
Einer pro Person oder Projekt, widerrufbar, mit eigenem Limit.
03
Verlauf jedes Aufrufs
Welche Ebene gelöst hat, was es kostete, was es gekostet hätte.
Wohin der Hinweis kommt
Wenn ein Schlüssel das Limit überschreitet oder ein Anbieter auszufallen beginnt, kommt die Warnung dort an, wo das Team bereits arbeitet.
SlackE-MailWhatsApp
Connect ansehen Was kostet es
Sie bezahlen das Modell. Der Zugang erhebt keine Maut.
Der Router schlägt keine Marge pro Aufruf auf: Das verbrauchte Guthaben entspricht den Kosten des Modells, das geantwortet hat. Wenn der Cache, das Kostenlose oder Ihr eigenes Abonnement antwortet, wird kein Guthaben verbraucht.
Im Cache gelöstEine Frage, deren Antwort bereits gespeichert war.
0 Credits
Im Kostenlosen oder über Ihr Abonnement gelöstDer Großteil des Routinevolumens landet hier.
0 Credits
Über die kostenpflichtige API gelöstNur wenn die Aufgabe das teure Modell erfordert.
custo Credits
Der kostenlose Plan aktiviert den Router bereits mit Modellen ohne Kosten pro Aufruf. Der gesamte Routinebetrieb kann ohne Guthabenverbrauch laufen, und das Dashboard zeigt, was das extern gekostet hätte.
Alle Pläne ansehenBevor Sie fragen
Was die meisten wissen wollen.
Muss ich meinen Code neu schreiben?
Nein. Das Gateway akzeptiert das Format, das die meisten Bibliotheken bereits nutzen. Praktisch ändern Sie also die Basis-URL und den Schlüssel. Was bisher einen Anbieter direkt aufgerufen hat, ruft nun den Zugang auf, und das Routing erfolgt auf der anderen Seite.
Was, wenn das Routing ein schlechteres Modell auswählt?
Die Auswahl erfolgt nach Fähigkeit, nicht per Zufall: Jeder Aufgabentyp hat ein Qualitätsminimum, und ein Modell wird nur eingesetzt, wenn es dieses Minimum erfüllt. Sie können auch jederzeit ein bestimmtes Modell für eine Route festlegen: Einsparung ist der Standard, keine Pflicht.
Kann ich meine bestehenden Abonnements nutzen?
Genau darum geht es. Die Konten, für die das Unternehmen bereits zahlt, kommen in den Pool und werden bis zum Limit genutzt, bevor neue Ausgaben entstehen: Viele stellen hier fest, dass sie zweimal für dieselbe Fähigkeit bezahlt haben.
Was passiert, wenn der Zugang nicht verfügbar ist?
Er degradiert sauber: Er gibt eine klare Antwort zur Nichtverfügbarkeit zurück, statt zu blockieren, und Ihr Code behandelt es wie den Ausfall jedes anderen Anbieters. Nichts bleibt wartend hängen.
Speichern Sie den Inhalt meiner Anfragen?
Was gespeichert wird, gehört Ihnen, ist mit Ihrem Schlüssel verschlüsselt und dient dem Cache sowie dem Verlauf, den Sie selbst einsehen. Sie können alles jederzeit vollständig exportieren, und es wird nicht zum Training fremder Modelle verwendet.
DIE ANDEREN ORGANE
Der Zugang versorgt die anderen Module.
Jede Anfrage aus allen Modulen läuft hierdurch. Deshalb erscheint die Einsparung des Routers in der Abrechnung des gesamten Systems, nicht nur bei denen, die die API direkt aufrufen.
DIE ANDEREN ORGANE
Kein Modul arbeitet allein.
Jedes löst einen Bereich, und alle schreiben in dasselbe Gedächtnis. Sehen Sie die anderen und wie sie sich in dieses einfügen.