Guardrails护栏

在模型输入和输出两端设置的安全过滤机制。

在模型输入和输出两端设置的安全过滤机制。输入端拦截恶意请求(如越狱尝试),输出端过滤不当内容(如涉政、涉黄、虚假信息)。护栏是AI产品上线的必要条件。

什么时候会用到

讨论安全合规、产品上线清单时会用。

例句

  • 模型跑起来了但护栏还没加,不能上线,万一输出了不该说的东西就是事故。

相关词