Batch vs Real-time
两种处理模式。
两种处理模式。Real-time 是用户发一条处理一条(聊天场景),Batch 是攒一批一起处理(比如批量翻译 1000 篇文档)。Batch 模式通常更便宜但延迟高,Real-time 更贵但即时响应。
什么时候会用到
讨论功能设计、成本优化时会用。
例句
- 每晚把当天新增的 500 个工单批量跑一遍分类,不需要实时处理,用 Batch 模式成本低一半。
两种处理模式。
两种处理模式。Real-time 是用户发一条处理一条(聊天场景),Batch 是攒一批一起处理(比如批量翻译 1000 篇文档)。Batch 模式通常更便宜但延迟高,Real-time 更贵但即时响应。
讨论功能设计、成本优化时会用。