ヒューマンインザループ

ヒューマンインザループ（Human-in-the-Loop、HITL）とは、機械学習システムの予測・判断・実行のサイクルに人間が積極的に介在し、確認・修正・承認・フィードバックを提供することで、AIと人間が協調してタスクをこなす設計パターンです。「AIが自動判断→人間が監視」の人間アウトオブザループとは対照的です。

ヒューマンインザループが重要な理由は、AIモデルは完璧ではなく、特に低信頼度ケース・エッジケース・高リスクな判断では人間の判断が不可欠なためです。医療診断AIでは「AIが疑わしいと判断した→医師が確認する」、採用AIでは「AIが絞り込んだ候補→人事担当者が最終選考する」のように、AIは効率化ツールとして使いつつ重要な判断は人間が担うアーキテクチャです。

具体的な実装パターンとして、①Active Learning（モデルが不確かなサンプルを選んで人間にラベル付けを依頼）、②RLHFでの人間フィードバック収集、③エージェントワークフローでの承認ゲート（重要なアクション前に人間の確認を求める）、④例外処理（AIの信頼度が閾値以下の場合に人間にエスカレーション）があります。ai-governanceとresponsible-aiの文脈で、特に高リスクAIシステムでのHITLは規制上も推奨・義務化される方向にあります。