每个请求都有合适的层级
每个请求都会根据其内容,发送到 Efficient、Fast 或 Frontier 层级。
有目的地路由
Auto 为每个请求选择模型层级,简单的工作不再支付 Frontier 的价格。
每个请求都会根据其内容,发送到 Efficient、Fast 或 Frontier 层级。
Auto 为每个请求在 Efficient、Fast 和 Frontier 层级之间选择。
调试、设计或规划多步骤工作的请求会发送到 Frontier 层级。
如果分类失败,请求仍会在默认路由上运行。
选择一个模型或连接你自己的提供商,Auto 就不会介入。
路由在哪里生效
Auto 是聊天的默认模型。
运行与聊天使用相同的生成路径,因此路由方式相同。
每个层级都有自己的输出令牌上限。
随时选择特定模型即可跳过 Auto。
连接你自己的模型提供商后,请求会直接发送给它。
在支持的模型上设置思考级别。