Q11.生成AIを「使わない方がよい」業務・局面はどこですか?
回答
最終意思決定が人命・法令・大額金銭に直結する場面、検証可能なデータが無い場面、説明責任が個人に帰属する場面では使わないか、補助に限定します。
使わない判断基準は、(1) 誤りのコストが不可逆、(2) 正解データが社内に無い、(3) 顧客・規制当局が人の判断を求める、のいずれかに当てはまるかで整理できます。具体例として、医療・安全臨界、独自の法的結論、採用の最終可否、未監査の財務数値の確定、顧客への断定的な約束などが挙げられます。また、感情ケアが主目的の対話をAIに任せると不誠実に映る場合もあります。組織として「使わないリスト」を公表すると、現場の不安が減り、使う領域への集中も進みます。例外が必要なときは、リスク評価と追加の人間レビューを必須にしてください。
- ●禁止に近い: 規制報告の最終稿、評価・懲戒、医療判断
- ●補助のみ: 調査のたたき台、選択肢列挙(人が選択)
- ●文化: 「使わない」を怠惰ではなくプロフェッショナルと伝える