依頼を流れる仕組みにするとき、任せた作業を次へ渡す手前に人の確認を挟むかどうかで、流れの速さも安全さも変わります。AIや外部に業務を任せる話でよく出る「Human-in-the-loop」という言葉は、この確認の挟み方を指します。言葉は聞くけれど、どこに挟めばいいのか、全部に挟むべきなのかは曖昧なままになりがちです。この記事では、Human-in-the-loop とは何を指すのか、どの度合いがあるのか、依頼のどこに置くと運用が詰まらないのかを整理します。
Human-in-the-loop とは何を指すか
Human-in-the-loop（ヒューマン・イン・ザ・ループ、HITL）は、処理の流れ（ループ）の中に人が入っていて、AIや自動処理の出力を人が確認・承認してから次へ進める形を指します。シミュレーションや機械学習の分野で、人が途中に入ってモデルの判断を正す使い方をする言葉です1。今は、AIエージェントに作業を任せる文脈で「どこまで人が確認するか」を表す語として使われています。
EU の AI 規制（EU AI Act）の第14条は、リスクの高いAIについて、使用中に人が実際に監督できるよう設計することを求めています2。そこで人ができるべきこととして、システムの能力と限界を理解する、出力を鵜呑みにしない、出力を正しく解釈する、使わない・上書きする・取り消すと判断する、動作を止める、が挙げられています3。Human-in-the-loop は、この「人が監督する」を、一つ一つの出力ごとに確認する形まで強めたものだと言えます。
監視の厚さと処理の速さは引き換えになる
人の確認をどこまで挟むかには、度合いがあります。大きく3つに分けると整理できます。
- Human-in-the-loop。出力を一つ一つ人が確認してから次へ流す。監視は厚いが、処理は人の手が入るぶん遅くなる。
- Human-on-the-loop。AIが自分で進め、人は見ていて必要なときだけ止める。件数が多くて全部は確認できないときに使う。
- 確認なし（human-out-of-the-loop）。人が途中に入らない。間違えても損害が小さい、低リスクの定型作業に限る。
厚く確認するほど間違いは止めやすくなりますが、そのぶん依頼はその確認待ちで滞ります。逆に確認を薄くすると速く流れますが、間違いに気づくのが後になります。だから問いは「確認を挟むか挟まないか」ではなく、「どの依頼に、どの度合いで挟むか」です。全部を Human-in-the-loop にすると、確認役の1人に依頼が溜まって、そこが新しい詰まりどころになります。
依頼のリスクで、挟む場所を分ける
「AIをそこまで使っていないから関係ない」と思うかもしれませんが、これはAIに限った話ではありません。外注、新人、他部署への依頼でも同じで、成果物を次へ渡す前に誰が確認するかを決めていないと、確認漏れか、逆に全部を管理者が見て詰まるか、どちらかになります。
分け方の目安は、間違えたときの損害の大きさと、取り返しのつきやすさです。顧客へ出す文面や請求のように、間違えると外に影響が出て取り返しにくい依頼は、次へ流す手前に人の確認を1か所置く。社内メモの下書きのように、後から直せて損害の小さい依頼は、確認なしで流して事後に見る。この線引きを依頼の種類ごとに決めておくと、確認役に全部が集まる状態を避けられます。
PATHWORK での扱い方
PATHWORK は、チャットで来た依頼をタスクに起こし、担当と状態と期限を1画面で追う道具です。Human-in-the-loop の文脈でいえば、確認を挟む場所を「状態」として置ける点が対応します。たとえば「確認待ち」「差し戻し」という状態を依頼に持たせると、いま誰の確認で止まっているのか、確認が済んで次へ流れたのかが表に出ます。
ただし、どの依頼に確認を挟むかを決めるのは人の運用ルールです。道具は状態を見せますが、線引きそのものは引いてくれません。挟む場所を先に決めておかないと、状態だけ用意しても、結局すべてが「確認待ち」に積み上がります。承認ポイントや差し戻し条件をどう組むかは、依頼の状態と承認ポイントの設計の記事で扱っています。
まとめ
Human-in-the-loop は、AIや自動処理の出力を、人が一つ一つ確認してから次へ流す形です。確認を厚くするほど間違いは止まりますが、処理は遅くなります。全部に挟むと確認役が詰まるので、間違えたときの損害と取り返しやすさで依頼を分け、外に影響が出る依頼にだけ確認を1か所置く。次の一手は、いま扱っている依頼を「確認を挟むもの」「流してよいもの」に振り分けてみることです。
参考
本文中の番号をクリックすると、その数字の根拠にした原文にジャンプします。原文は改変せず、そのまま載せています。
-
Human-in-the-loop（Wikipedia、英語版）
HITL is associated with modeling and simulation (M&S) in the live, virtual, and constructive taxonomy. ... Further, HITL is used in the context of machine learning. ... In machine learning, HITL is used in the sense of humans aiding the computer in making the correct decisions in building a model.
冒頭および Machine learning 節（本文の「シミュレーションや機械学習の分野で、人が途中に入ってモデルの判断を正す」の根拠。一次資料ではなく事典項目） 本文の該当箇所へ戻る -
EU Artificial Intelligence Act Article 14: Human Oversight
High-risk AI systems shall be designed and developed in such a way, including with appropriate human-machine interface tools, that they can be effectively overseen by natural persons during the period in which they are in use.
第14条第1項（本文の「使用中に人が実際に監督できるよう設計する」の根拠） 本文の該当箇所へ戻る -
EU Artificial Intelligence Act Article 14: Human Oversight
(a) to properly understand the relevant capacities and limitations of the high-risk AI system and be able to duly monitor its operation, including in view of detecting and addressing anomalies, dysfunctions and unexpected performance; (b) to remain aware of the possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias) ...; (c) to correctly interpret the high-risk AI system's output, taking into account, for example, the interpretation tools and methods available; (d) to decide, in any particular situation, not to use the high-risk AI system or to otherwise disregard, override or reverse the output of the high-risk AI system; (e) to intervene in the operation of the high-risk AI system or interrupt the system through a 'stop' button or a similar procedure that allows the system to come to a halt in a safe state.
第14条第4項(a)〜(e)（本文が挙げた5つの「人ができるべきこと」の根拠） 本文の該当箇所へ戻る