human in the loop（ヒューマンインザループ）とは？AI駆動開発で人が握る判断

human in the loopの「ループ」は、システムが入力を受けて処理し、結果を出して次の処理に進む流れのことです。その流れの中に人が組み込まれ、人の判断がなければ先に進まない状態を指します。

主な解説での定義

IBMは日本語の解説で、HITLを「人間が自動化システムの操作、監督、意思決定に積極的に関与するシステムやプロセス」と定義しています。Google Cloudは、機械学習やAIのシステムのライフサイクルに人の入力と専門知識を組み込む協調的な手法と説明し、人が学習・評価・運用の各段階に参加するとしています。@ITの用語辞典（2022年3月10日）は、人間がシステム（ループ）の中に組み込まれている状態と説明しています。

学習データに人がラベルを付ける場面も、AIの出力を人が承認してから使う場面も、同じ言葉で呼ばれます。AI駆動開発（AIエージェントにコードを書かせる開発）で問題になるのは、主に後者の「実行や反映の前に人が承認する」場面です。

HITL・HOTL・HOOTLの違い

人の関わり方の深さで、3つの段階に分けて呼ばれます。DataCampの日本語版の解説（2026年6月25日）は、HITLを人の入力が動作に不可欠な状態、HOTLを人が監視して必要なときだけ介入する状態、HOOTLを完全に自律した状態と区別しています。

1つのチームが3つのどれかを選ぶわけではありません。同じエージェントでも、操作の種類ごとにHITLとHOTLを使い分けます。

EU・日本・米国の公的な文書は、いずれもAIの利用に人の判断を組み込むことを求めています。条文に書かれた監視者の役割は、開発チームが承認の置き場所を決めるときの点検項目にも使えます。

EU AI Act 第14条「Human oversight」

EUのAI規制法（Regulation (EU) 2024/1689、2024年7月12日に官報掲載）の第14条は、高リスクのAIシステムを、使用中に人が効果的に監視できるように設計することを求めています。監視の措置は、リスク・自律性のレベル・使用の状況に見合うものとされています。

同条の第4項は、監視を担う人ができるようにすべきことを5つ挙げています。

• AIの能力と限界を理解し、異常や想定外の動作を検知できる
• AIの出力を確かめずに受け入れてしまう傾向（自動化バイアス）を自覚できる
• AIの出力を正しく解釈できる
• AIを使わないと決める、または出力を無視・上書きできる
• 「stop」ボタンなどで動作に介入し、中断できる

第14条の義務の対象は高リスクのAIシステムで、コーディングエージェントのすべてに課されるものではありません。ただ、5つの項目は、エージェントの承認画面で人が何を確認し、どこで止められるべきかの点検に使えます。

AI事業者ガイドライン（総務省・経済産業省）

総務省と経済産業省は2026年3月31日にAI事業者ガイドライン第1.2版を公表しました。共通の指針の「公平性」の項は「AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討した上で」と書いています。AI利用者に向けた項では「責任をもってAI出力結果の事業利用判断を行う」ことを求めています。

総務省の令和7年版情報通信白書によると、2024年度に生成AIの活用方針を定めている日本企業は49.7%でした。

NIST AI RMF（米国国立標準技術研究所）

NISTのAIリスクマネジメントフレームワーク（AI RMF 1.0）は、MAP 3.5で「Processes for human oversight are defined, assessed, and documented in accordance with organizational policies from GOVERN function.」（人による監視のプロセスを、組織の方針に沿って定義・評価・文書化する）としています。監視の手順を文書にして残すことまでを求めている点が、開発チームの運用に近い項目です。

主なコーディングエージェントは、どれも人の承認を挟む仕組みを持っています。製品ごとに違うのは、承認を求める場面と、承認を外す設定の幅です。

主なコーディングエージェントの承認の仕組み

Claude Code・Codex・Cursorは、承認を外す設定も持っています。Copilot cloud agentも、GitHub Actionsの自動実行は設定で許可できます。Claude Codeのベストプラクティスは、CLAUDE.mdなどの指示は確率的に守られるもので、hookや権限の拒否ルールは決定的に働くと説明し、毎回必ず起きるべきことはhookか拒否ルールにするよう勧めています。人に残す判断は、指示文に頼らず設定で止めてください。

開発者はAIの出力をどこまで信頼しているか

開発者への調査では、AIを使う人は多い一方で、出力の正確さを信頼する人は少数です。

「ほぼ正しいが完全ではない」コードは、動かしてみると問題なく見えることがあります。Veracodeの調査が示した脆弱性のように、動作を確かめただけでは見つからない誤りは、コードを読む人が判断します。

承認を外した状態で起きた事故

2025年7月、ReplitのAIエージェントが、コードの変更を止めるよう指示されていた期間中に、利用者の本番データベースを削除しました。The RegisterやOECDのAIインシデントの記録によると、ReplitのCEOは開発用と本番用のデータベースの分離と、計画だけを行うモードの追加を約束しています。

約束された2つの対策は、本番の環境にエージェントの手が届かない構成と、実行の前に人が計画を確かめる手順です。どちらも、エージェントへの指示文でなく、環境と手順の側で人の判断を残すものです。

GinTrickは、開発と社内の業務の両方でClaude Codeを使っています。人が判断を握る場面は、Claude Codeのskill（作業の手順と判断の基準をまとめた指示ファイル）・rule・hookとして書き、毎回同じ場所で止まるようにしています。

10の判断を並べると、人の側に残っているのは、取り消せない操作・外部に出る操作・自動の検証で正誤を判定できない操作のどれかです。どれにも当たらない操作はAIに任せています。

人が握る判断と運用している仕組み

仕組みを作るときに決めた3つのこと

1つ目は、承認の単位を差分にすることです。社内wikiの更新や設定ファイルの変更では、AIが承認を求めるときに変更前と変更後の差分を示させています。EU AI Act第14条も挙げる自動化バイアスを避け、人が中身を読んで判断するためです。

2つ目は、承認した内容と実行する内容を一致させることです。スプレッドシートへの書き込みでは、承認した内容をハッシュ値で固定し、承認の後に中身がすり替わらないようにしています。人が見たものと実際に書き込まれるものが同じであることを、人の注意に頼らず仕組みで確かめています。

3つ目は、承認を外す操作も決めておくことです。デプロイ後のインデックス申請のように、毎回同じ手順で結果も確かめやすい作業は、合意したうえで承認を省いています。承認を求める回数を絞り、残した承認で差分を読めるようにしています。

体制の面では、サイバーエージェント・ドワンゴ出身のエンジニアが設計段階から入り、成果物を検品しています。

GinTrickの運用を、他のチームでも使える手順に直すと次の4段階になります。最初から全部を作らず、事故が起きたときの被害が大きい操作から順に決めてください。

AIの操作を書き出して、人に残すかを判定する

AIエージェントに任せている操作を、ファイルの編集・コマンドの実行・外部サービスへの書き込み・送信・デプロイの単位で書き出します。そのうえで、1つずつ次の問いに答えてください。1つでも「はい」なら、人の承認に残す候補です。

• 実行した後に、元に戻せない操作か（削除・送信・振込・本番への反映）
• 社外の人や他のメンバーの目に触れる操作か（投稿・メール・共有文書の更新）
• パスワード・APIキー・アカウントの権限に触れる操作か
• テストや型チェックなど、自動の検証で正誤を判定できない操作か
• 会社の事実や数字を、社外向けの文章に書く操作か

承認を設定とhookで止める

人に残すと決めた操作は、エージェントの権限設定やhookで、実行の前に止まるようにします。Claude CodeならPreToolUse hookと権限の拒否ルール、Codexならapproval policyとsandbox、GitHubなら保護ブランチとレビューの必須化が使えます。指示ファイルには、承認を求めるときに何を見せるかを書きます。

承認では差分と影響範囲を見せる

承認を求めるときは、変更前と変更後の差分、対象（どのファイル・どのシート・どの宛先か）、影響範囲をAIに示させます。承認した内容と実行する内容が一致しているかも、可能なら仕組みで確かめます。EU AI Act第14条の「出力を正しく解釈できる」「無視・上書きできる」は、この画面で人が判断できる状態を指しています。

承認を外す操作を合意して記録する

運用を続けると、毎回承認しているが一度も止めたことのない操作が見えてきます。そうした操作は、チームで合意したうえで承認を外し、外したことを運用手順書に残します。NIST AI RMFのMAP 3.5が求める「監視のプロセスの文書化」は、この記録にあたります。

human in the loopの運用設計ならGinTrick

GinTrickはFDE（Forward Deployed Engineering）として、お客様の開発チームに入り込み、AI開発環境と運用プロセスを整備して、チームが自走できる状態まで伴走しています。お客様の情報（課題・優先度・リリース日）を日々キャッチアップしながら、どの操作を人の承認に残すかを一緒に決めます。

決めた内容は、CLAUDE.md・skills・hooks・運用手順書としてお客様のリポジトリにチーム共有の形で残します。保護ブランチへの誤操作を防ぐガードレールと回帰テストも、お客様のリポジトリに実装します。FDEの考え方はFDE（Forward Deployed Engineer）とは？AI導入を定着させる伴走型エンジニアと受託・SESとの違いで解説しています。