Q25.バッチ処理とリアルタイム、エージェントはどう使い分けますか?
回答
リアルタイムは対話・即時判断向き、バッチは大量ドキュメント処理・夜間集計・レポート生成向きです。同じエージェントロジックでも、トリガーとSLA・コスト構造が異なるため、用途ごとにパイプラインを分けるのが一般的です。
リアルタイムは、ユーザーが待っている画面での応答、チャット、音声通話など、レイテンシ数秒〜数十秒が許容される場面に向きます。バッチは、請求書数千件の分類、メールボックス全体の要約、ログからの異常検知など、スループット優先の場面向きです。バッチではキューイング、リトライ、部分失敗の再実行、結果の差分通知を設計し、リアルタイムよりコスト最適化(安いモデル・オフピーク実行)がしやすいです。混在環境では、リアルタイムで受け付けた案件の重い処理だけバッチにオフロードするパターンもあります。選定基準は、ユーザー待ち時間、1件あたりの処理コスト、失敗時の影響、データ鮮度要求です。
- ●リアルタイム: 対話・即時判断・低レイテンシ
- ●バッチ: 大量処理・夜間集計・スループット優先
- ●重い処理のオフロードでコストとUXを両立