每个部门各自开通
市场部有一份订阅，开发有一把 API 密钥，有人又用卡付了另一份。没人能说清公司每月在 AI 上花了多少。
一个请求进入
"用三行总结这封电子邮件。"
缓存相同的问题之前已经回答过
免费模型十一家提供商，按调用不收费
你已付费的订阅公司已有的账户，用到额度上限
付费 API最后手段，只有任务确实需要时才用
本次请求避免的成本US$ 0,004如果直接使用付费 API，本来会花掉的金额
路由示例。在您的面板中，显示的是真实金额，按周期汇总。本地层不会显示，因为它属于 appliance 所有者的硬件，不属于客户。
没人会为每个请求选择模型。系统会选择。
AI 账单不会因一个昂贵请求而失控，而是因为一千个便宜请求被送到了已配置的最贵模型。路由器会在每个请求发出前评估，并使用能完成任务的最低成本层。
目前的情况
三份 AI 账单，没有一份知道另一份花了多少。
昂贵模型回答便宜问题
配置好的密钥负责处理所有事。总结一封邮件和制定策略走的是同一个入口，价格也一样。
提供商宕机，业务跟着停
一把密钥，一个供应商，一个故障点。对方的不稳定变成您的问题，而且没有配置备用方案。
您开始看见的
整家公司的 AI 账单，只看一个屏幕。
每个通过入口的调用都会被记录：谁发起、由哪一层处理、花了多少、原本会花多少。这让“我们在 AI 上花得很多”变成一句有数字支撑的话。
快照示例
0%
避免的成本0%
可用性0
可用模型0
使用中的部门避免的成本
因为请求由更低成本的层处理，公司少花了多少。这一项指标本身就能证明该模块的价值。
这是您带去成本会议的数字
可用性
如果一个提供商宕机，流量会自动转到下一个，无需任何人处理。您不会继承任何供应商的停机时间。
别人的宕机不再是您的宕机
可用模型
完整目录都在一把密钥之后，调用格式相同。更换模型不再是迁移项目。
测试一个新模型只需一行
使用中的部门
按部门和项目查看谁使用了什么，并为每把密钥设置上限，避免有人无意间耗尽余额。
可以给访问权限，不给空白支票
内部机制
它如何决定，四个问题。
决定在调用发出前完成，顺序永远不变：从免费的开始，只有上面的选项无法完成时才进入付费选项。
这已经被问过了吗？
带有已保存回答的相同请求会从缓存返回。成本为零，立即到达：这是在重复操作中节省最多的一层。
无需离开您的基础设施就能解决
免费模型能解决吗？
大部分日常工作不需要顶级模型：总结、分类、提取。免费模型能交付，就由它回答。
大部分请求量会落在这里
能放进您已经支付的订阅里吗？
公司已经有 AI 账户。它们会加入资源池，在花任何新的钱之前先用到上限。
您开始使用已经在付费的资源
只有这时：付费 API。
当任务确实需要昂贵模型时，才会调用它，面板会记录这笔支出是必要的，而非疏忽。
昂贵选项成为有理由的例外
消除疑问
四个决定这件事的比较。
直接密钥能用，第三方网关能用，让开发人员维护也能用。关键是当请求量增长时，每种方式要花多少。
提供商的直接密钥通过统一入口
每个请求的成本始终是已配置模型的价格 能解决该请求的最低价格
如果提供商宕机您的业务也会停 自动转到下一个
更换模型修改代码并重新测试 一行配置
从零到第一份快照
三步，几分钟内完成第一次调用。
011 分钟
创建密钥
一把 Rovemark 密钥替代所有提供商的密钥。创建时即可设定它的支出上限。
025 分钟
更换地址
网关兼容你的代码已经使用的格式。实际上只需更换基础 URL 和密钥，其余代码不变。
03当天即可
查看节省的成本
从第一次调用起，控制面板就会显示每个请求由哪一层处理，以及节省了多少成本。
公司内部
同一个入口，解决三类问题。
终于有了“我们在 AI 上花了多少”的数字，也能为每把密钥设定上限，不再靠自觉控制支出。
不再维护每个提供商的集成，也不用在某一家宕机时被叫醒。一个端点，自动切换。
不用选模型，不用考虑价格，也不用向任何人索要密钥。提出需要，获得结果。
这里实际交付的内容
01
月度账单
按部门、项目和周期统计的支出与节省成本。
02
设有上限的密钥
每人或每个项目一把，可撤销，且有独立限额。
03
每次调用的记录
由哪一层处理，花了多少，本来会花多少。
费用是多少
你支付模型费用。入口不收过路费。
路由器不会在每次调用上加价：消耗的额度就是实际响应模型的成本。由缓存、免费资源或你自己的订阅响应时，不消耗任何额度。
由缓存处理已有保存答案的问题。
0 积分
由免费资源或你的订阅处理大部分日常请求都会落在这里。
0 积分
由付费 API 处理仅在任务需要昂贵模型时使用。
custo 积分
免费套餐已启用路由器，并提供无单次调用费用的模型。日常运营可以完全不消耗额度，控制面板还会显示在外部原本需要花多少钱。
查看所有套餐在你提问之前
大家通常想知道什么。
需要重写我的代码吗？
不需要。网关兼容大多数库已经使用的格式，所以实际上只需更换基础 URL 和密钥。原本直接调用提供商的代码会改为调用入口，路由在另一端完成。
如果路由选了较差的模型怎么办？
选择依据是能力，不是抽签：每类任务都有最低质量要求，模型只有达到该要求才会被采用。你也可以随时为某条路由固定指定模型：节省成本是默认选项，不是强制要求。
可以使用我现有的订阅吗？
这正是重点。公司已经付费的账户会进入资源池，在产生任何新支出前先使用到上限：很多人会在这里发现，自己为同一种能力付了两次钱。
如果入口不可用，会发生什么？
它会平稳降级：返回明确的不可用响应，而不是卡住。你的代码会像处理任何提供商宕机一样处理它。不会有请求一直挂起等待。
你们会保存我请求的内容吗？
保存的内容归你所有，使用你的密钥加密，用于缓存和你自己查询的历史记录。你随时可以完整导出，它不会成为任何人的模型训练数据。
其他器官
这个入口服务其他模块。
所有模块的所有请求都从这里发出，因此路由器带来的节省会体现在整个系统的账单中，不只是手动调用 API 的人。
