2026-08-13 発行（読了 5 分）
実プロダクトのアーキテクチャ・使用例から AI 開発の現在地を週 3 回・1 号 1 テーマで深掘り
2026年に入り、単一のフロンティアモデルに全リクエストを投げるのではなく、タスクの難易度や種類に応じて複数モデルへ振り分ける「モデルルーティング」が、コスト最適化のテクニックから製品アーキテクチャの標準要素へと格上げされた。Vercel・GitHub・OpenRouter・Rampが相次いでルーティング層を公開する一方、Perplexityは逆に複数モデルを並列実行して合議する構成を打ち出した。どちらを選ぶかは、判定を誤ったときのコストをどちらの方向に振るかという設計判断に帰着する。
ゼロレイテンシーのヒューリスティック分類（入力の長さ、コード片の有無、「なぜ」「手順を追って」のような意図キーワード）でまず難易度ティアを決め、判定が曖昧な場合だけ軽量モデルによる追加分類を呼ぶ。ティアごとに主系モデルと別プロバイダのフォールバックを用意し、品質ゲートを通らなかった場合のみ上位ティアへエスカレーションする——これがVercel AI Gatewayの実装だ。GitHub CopilotのAutoも同様に、推論の深さ・コード生成の複雑さ・バグ診断の難度・ツール呼び出しの必要性といった軸でタスクを評価し、モデルの可用性やレイテンシーも加味して選択する。
単一モデルで全部処理すると、簡単なタスクにフロンティアモデルの料金を払うか、難しいタスクを安いモデルに投げて失敗するかの二択になる。ティア分けすればコストとレイテンシーを両立できる。加えて、判定のたびにモデルを呼んでいては分類コスト自体が無視できなくなるため、「追加の呼び出しをしない分類器が一番安い分類器」という原則が両社の実装に共通している。
OpenRouterの新しいAuto Routerは、軽量分類器でプロンプトを約30のタスクカテゴリーに割り振ったうえで、カテゴリーごとに「直近7日間にコミュニティが実際に支出したモデル」を参照してランキングを作り、Pareto最適な振り分け曲線を継続更新する。Ramp Routerも社内で3年運用してきたルータを一般公開したもので、品質基準をクリアする中で最も安いモデルへ送り、新しいモデルを毎週実データでテストして結果を自動的にルーティングへ反映する。
週単位で新モデルが出て価格も性能も動く以上、静的なベンチマークやオフライン評価だけで組んだ分類器はすぐ陳腐化する。実際の支出実績や合格率という「本番のフィードバックループ」を分類結果に重ねることで、ベンチマークを狙い撃ちしたモデルに振り回されにくくなる、というのが両社に共通する設計思想だ。
PerplexityのModel Councilは逆方向の賭けだ。1つのクエリをGPT-5.2・Claude Opus 4.6・Gemini 3.0の3モデルに同時に投げ、Claude Opus 4.5を「議長」役の統合モデルとして使い、一致点と相違点を示した単一の回答にまとめる。モデルを1つ選ぶのではなく複数走らせて合意形成する構成で、収束は確信度のシグナル、発散は質問の曖昧さやデータの不確実性を示す警告として扱われる。
この構成がMax / Enterprise Max向けの上位プランに限定されているのは示唆的だ。1クエリで3モデルと統合モデルを呼ぶため、通常のルーティングに比べてトークンコストが数倍に膨らむ。日常的な質問の大半は適切に1モデルへルーティングすれば十分で、Councilはハイステークスかつ曖昧なクエリという狭いユースケースに絞ることで初めて採算が合う設計だ。