Q11.Human-in-the-Loop(人間介在)はどこに入れるべきですか?
回答
影響が大きい判断(契約、送金、個人情報の一括処理)や、モデル信頼度が低いケースでは人間の確認を必須にします。日常の軽微なタスクは自動化し、例外時だけ人に回す設計がバランス良いです。
Human-in-the-Loopは精度低下時の安全弁であると同時に、現場知識をシステムに還流させる学習ループの入口にもなります。介入ポイントとしては、エージェントの最終出力を承認してから送信する「事後確認」、ツール実行前に人間が許可する「事前承認」、低信頼スコアで自動エスカレーションする「例外ルーティング」があります。すべてを人間確認すると効率が落ちるため、リスクマトリクス(影響度×確信度)で自動化率を段階的に上げます。UIでは、エージェントの根拠・引用・実行ログを見せ、修正内容をワンクリックでフィードバックできる仕組みが定着率を高めます。
- ●高リスク操作は事前承認、低信頼は事後確認またはエスカレーション
- ●影響度×確信度で自動化率を段階的に引き上げる
- ●修正フィードバックを評価セット・改善サイクルに接続