Q9.セキュリティと権限管理はどう考えるべきですか?
回答
エージェントは人間の代わりにシステムにアクセスするため、最小権限の原則が最重要です。データの分類、マスキング、テナント分離、プロンプトインジェクション対策を多層防御で組み合わせます。
主なリスクは、(1) 機密データの漏えい、(2) 権限外操作の実行、(3) 外部入力によるプロンプトインジェクション、(4) 学習データへの意図しない送信、です。エージェントごとにロールベースのアクセス制御を設け、参照可能なナレッジと呼び出せるAPIを紐づけます。ユーザー入力とシステム指示の境界を明確にし、外部URLやメール本文など不可信コンテンツはサンドボックス処理します。ログ監視で異常なツール呼び出しパターンを検知し、定期的な権限レビューとペネトレーションテストを実施します。社内ポリシー上、特定データをクラウドLLMに送れない場合は、VPC内ホスティングやオンプレモデルの検討が必要です。
- ●最小権限・ロール単位のナレッジ/API制限
- ●プロンプトインジェクション対策と入力サニタイズ
- ●送信データの分類とクラウド利用ポリシーの整合