LLMOps

大模型的运维体系,类比传统的 MLOps。

大模型的运维体系,类比传统的 MLOps。包括 Prompt 版本管理、模型监控、A/B 测试、评测自动化、数据管线、模型更新上线等全生命周期管理。

什么时候会用到

讨论工程成熟度、团队建设时会用。

例句

  • 我们连 LLMOps 体系都没有,Prompt 改了谁也不知道,线上出了问题都定位不到是哪个版本。

相关词