Q3.ハルシネーション(もっともらしい誤り)を、業務でどう減らしますか?
回答
根拠付き回答(社内文書検索・引用必須)と、人の最終確認をセットにします。モデルに「知らなければ知らないと答える」制約を入れるだけでは不十分です。
生成AIは確率的に plausible な文章を作るため、数値・法規・製品仕様・顧客名などは特に危険です。対策の層は、(1) 参照可能な社内ナレッジに grounding する、(2) 出力に出典・該当段落を要求する、(3) 高リスク項目は二重チェック(別人・別ツール・原本照合)、(4) 自動では送信・登録・契約反映しない、です。プロンプトで「推測は推測と明記」と言っても100%は防げないため、業務フロー上「AI出力=下書き」という位置づけを徹底します。インシデントが出たらプロンプトだけでなく、参照データの鮮度・権限漏れも含めて振り返ってください。
- ●RAG・社内検索: 回答は社内ソースに紐づける
- ●人間ゲート: 対外送信・法務・金額は必ず人が承認
- ●テスト: 既知の正解セットで定期的に再評価
「自信がある口調」は正しさの指標になりません。確認コストをKPIに含めてください。