「AIルーター」とは

コラム一覧へ戻る

「AIルーター」とは何か

AIの世界で「ルーター（router）」または「ルーティング」と呼ぶのは、受け取った依頼の中身を見て、処理する先を自動で選び分ける仕組みです。込み入った調査や下書きは能力の高い（そのぶん遅くて費用のかかる）モデルへ、短い定型のやり取りは軽くて速いモデルへ回す。1つのモデルに全部を投げるのをやめて、内容ごとに向き先を変える、という考え方です。

なぜこれが出てきたかというと、性能の高いモデルほど処理が重く費用もかかるからです。すべての依頼を一番強いモデルに通すと、簡単な用件まで遅く高くなります。かといって軽いモデルに全部通すと、難しい用件で品質が足りません。そこで、依頼の重さに応じて向き先を分ける。ネットワーク機器のルーターが宛先を見てパケットを流す先を選ぶのと、発想は同じです。

これは思いつきではなく、研究として組み立てられてきた考え方です。UC Berkeley、Anyscale、Canva の研究者らによる「RouteLLM」（2024年公開、ICLR 2025採録）は、問い合わせごとに強いモデルと弱いモデルを自動で選び分ける仕組みを提案し、応答の品質を落とさずに費用を2倍以上下げられたと報告しています¹。振り分けの学習に使ったのは、Chatbot Arena の対戦データ8万件です²。Chatbot Arena は、どちらの回答が良かったかを匿名の投票で集めて順位表を作る仕組みです³。難しい用件だけ強いモデルへ回し、残りは軽いモデルで済ませる、という振り分けの効き方を数値で示したものです。

1つの窓口に全部集めても、振り分け基準がなければ止まる

ここで、これはAIの話だと思うと見落とします。同じことが、人が回している依頼でも毎日起きています。問い合わせも作業依頼も、まず1つのチャットや1人の窓口に集まる。集めるところまでは整理されていても、そこから「これは誰が持つ用件か」を決める基準が言葉になっていないと、依頼はその窓口で止まります。

1人に全依頼を投げるのは、1つのモデルに全部投げるのと同じ詰まり方をします。窓口役が手一杯になると、簡単に振れば済む用件まで滞る。逆に、複雑な用件を軽い気持ちで手近な人へ回すと、途中で「これは自分の担当ではない」と差し戻され、二重に時間がかかります。止まる原因は担当者の注意力ではなく、振り分ける基準が人の頭の中にしかないことです。

「うちは小さいチームだから、口頭で回せている」という現場もあります。人数が少ないうちは、確かに暗黙の基準でも回ります。ただし回っているように見えるのは、特定の誰かが頭の中で毎回振り分けているからで、その人が休むと途端に依頼が宙に浮きます。基準を言葉にしておく価値は、規模より属人度で決まります。

何を基準に振り分けているか、を書き出す

AIルーターが向き先を選ぶとき、判断のもとにしているのは主に3つです。人の依頼配分に置き換えても、見るところは変わりません。

• 用件の種類。調査・作成・確認・承認など、何を求められた依頼か。
• 重さ。判断がいる込み入った用件か、手順の決まった定型か。
• 締切。すぐ返すべきか、まとめて処理してよいか。

この3つで分けると、「込み入っていて締切の近い作成依頼は誰が持つ」「定型で締切のゆるい確認依頼はここに溜めてまとめて処理する」といった振り分けが言葉になります。AIに任せるかどうかより前に、今この判断を誰が何を見てやっているかを紙に書き出すと、配分が特定の人に偏っている場所が見えます。

導入検討で先に決めておくこと

ルーティングという言葉に引っ張られて、いきなり自動の振り分けを入れる必要はありません。導入検討の段階でやることは、今の振り分けを表に出すことです。次を確かめておくと、ツールを選ぶときの土台になります。

• 依頼が最初に集まる場所はどこか。1つに集まっているか、複数に散っているか。
• そこから次の担当へ振り分けているのは誰か。その人が不在のとき、依頼はどうなるか。
• 振り分けの基準は、種類・重さ・締切のどれで決めているか。言葉になっているか。
• 振り分けた後、その依頼が今どの状態か（対応中・差し戻し・完了）を追える場所はあるか。

これらは、AIを動かすツールを選ぶより前に決められます。むしろ先に決めておかないと、どんな仕組みを入れても、振り分けた依頼が今どこにあるかは見えないままになります。振り分けと、振り分けた後を追うことは、セットで初めて意味を持ちます。

PATHWORKでの扱い方

PATHWORKは、チャットで来た依頼をタスクに起こし、担当と状態と期限を1画面で追う道具です。ルーティングの文脈でいえば、依頼が集まる窓口と、振り分けた後を追う場所を1つにまとめる役割を持ちます。誰に回したか、その依頼が対応中か差し戻しか完了か、期限までどれだけかを、同じ画面で見られます。

自動で最適な担当を選ぶわけではありません。振り分けの判断は人が持ちます。ただ、振り分けた依頼が向き先で止まっているのか進んでいるのかが見えると、窓口役の頭の中だけにあった配分の基準を、チームで共有できる状態に近づけられます。

まとめ

AIルーターは、依頼の中身に応じて処理先を自動で選び分ける仕組みで、1つのモデルに全部投げるのをやめる考え方です。同じ交通整理を、人はAI以前から毎日やっています。導入検討でまずやることは、自動化を入れることではなく、今どんな基準で誰が振り分けているかを言葉にし、振り分けた後を追える場所があるかを確かめることです。基準が人の頭の中にあるうちは、担当が休むだけで依頼が止まります。次の一手は、種類・重さ・締切の3つで今の配分を書き出してみることです。

参考

本文中の番号をクリックすると、その数字の根拠にした原文にジャンプします。原文は改変せず、そのまま載せています。

1. Isaac Ong ほか「RouteLLM: Learning to Route LLMs with Preference Data」arXiv:2406.18665（ICLR 2025）

   Isaac Ong, Amjad Almahairi, Vincent Wu, Wei-Lin Chiang, Tianhao Wu, Joseph E. Gonzalez, M Waleed Kadous, Ion Stoica / 1 UC Berkeley 2 Anyscale 3 Canva ... Evaluations on public benchmarks show that our approach can reduce costs by over 2 times without sacrificing response quality.

   論文の著者欄とアブストラクト（本文の所属3組織と「費用を2倍以上」の根拠） 本文の該当箇所へ戻る
2. Isaac Ong ほか「RouteLLM: Learning to Route LLMs with Preference Data」arXiv:2406.18665（ICLR 2025）

   Our primary source for preference data is the 80k battles from the online Chatbot Arena platform

   論文 4.1節（本文の「Chatbot Arena の対戦データ8万件」の根拠） 本文の該当箇所へ戻る
3. Chatbot Arena Leaderboard Updates（LMSYS Org、2023年5月25日）

   A new Elo rating leaderboard based on the 27K anonymous voting data collected in the wild between April 24 and May 22, 2023 is released in Table 1 below.

   リーダーボード更新記事（本文の「匿名の投票で集めて順位表を作る」の根拠） 本文の該当箇所へ戻る