リクエストごとの階層
各リクエストは、内容に応じて Efficient、Fast、Frontier のいずれかの階層に送られます。
目的に合わせたルーティング
Auto がリクエストごとにモデル階層を選ぶので、簡単な作業に Frontier の料金を払う必要はありません。
各リクエストは、内容に応じて Efficient、Fast、Frontier のいずれかの階層に送られます。
Auto はリクエストごとに Efficient、Fast、Frontier の階層から選びます。
デバッグ、設計、複数ステップの計画は Frontier 階層に送られます。
分類に失敗しても、リクエストはデフォルトのルートで実行されます。
モデルを選ぶか、独自のプロバイダーを接続すると、Auto は介入しません。
ルーティングが働く場所
Auto はチャットのデフォルトモデルです。
実行はチャットと同じ生成パスを使うため、同じようにルーティングされます。
各階層には専用の出力トークン上限があります。
いつでも特定のモデルを選んで Auto をスキップできます。
独自のモデルプロバイダーを接続すると、リクエストは直接そこに送られます。
対応するモデルでは思考レベルを設定できます。