Batch vs Real-time

两种处理模式。

两种处理模式。Real-time 是用户发一条处理一条(聊天场景),Batch 是攒一批一起处理(比如批量翻译 1000 篇文档)。Batch 模式通常更便宜但延迟高,Real-time 更贵但即时响应。

什么时候会用到

讨论功能设计、成本优化时会用。

例句

  • 每晚把当天新增的 500 个工单批量跑一遍分类,不需要实时处理,用 Batch 模式成本低一半。

相关词