社内のすべてのAIは、同じ入口を通ります。 そして、要件を満たす最も低コストなものを選びます。

いいえ。Gatewayは大半のライブラリがすでに使っている形式に対応しているため、実際に変更するのはベースURLとキーだけです。直接プロバイダーを呼んでいたコードは窓口を呼ぶようになり、ルーティングはその先で行われます。

選択は抽選ではなく能力に基づきます。タスクの種類ごとに品質の下限があり、その下限を満たせるモデルだけが選ばれます。必要なら、ルートごとに特定のモデルを固定することもできます。節約は標準であり、義務ではありません。

それが要点です。会社がすでに支払っているアカウントはプールに入り、新たな支出の前に上限まで使われます。同じ能力に二重払いしていたことに、ここで気づく企業も多くあります。

明確に縮退します。停止する代わりに利用不可の明示的な応答を返すため、コード側ではどのプロバイダーの停止と同じように処理できます。待機状態のまま残るものはありません。

保存されるものは自社のもので、自社キーで暗号化されます。キャッシュと自分で確認する履歴のために存在します。必要な日に完全に取り出せ、誰かのモデル学習には使われません。