A
对不同版本的 Prompt 做对照实验,用真实用户流量测哪个版本效果更好。
对不同版本的 Prompt 做对照实验,用真实用户流量测哪个版本效果更好。和传统产品的 A/B 测试逻辑一样,但测试对象从 UI 变成了 Prompt。
什么时候会用到
讨论 Prompt 优化、效果提升时会用。
例句
- 新 Prompt 在离线 Eval 上好 5 个点,但线上 A/B 测试结果要等一周。
对不同版本的 Prompt 做对照实验,用真实用户流量测哪个版本效果更好。
对不同版本的 Prompt 做对照实验,用真实用户流量测哪个版本效果更好。和传统产品的 A/B 测试逻辑一样,但测试对象从 UI 变成了 Prompt。
讨论 Prompt 优化、效果提升时会用。