Q9.セキュリティと権限管理はどう考えるべきですか？

主なリスクは、(1) 機密データの漏えい、(2) 権限外操作の実行、(3) 外部入力によるプロンプトインジェクション、(4) 学習データへの意図しない送信、です。エージェントごとにロールベースのアクセス制御を設け、参照可能なナレッジと呼び出せるAPIを紐づけます。ユーザー入力とシステム指示の境界を明確にし、外部URLやメール本文など不可信コンテンツはサンドボックス処理します。ログ監視で異常なツール呼び出しパターンを検知し、定期的な権限レビューとペネトレーションテストを実施します。社内ポリシー上、特定データをクラウドLLMに送れない場合は、VPC内ホスティングやオンプレモデルの検討が必要です。

• ●最小権限・ロール単位のナレッジ/API制限
• ●プロンプトインジェクションを前提にした権限分離・出力検証・監視
• ●送信データの分類とクラウド利用ポリシーの整合