#Guardrails

LLM 应用安全：Prompt Injection 防御与 AI Guardrails 实战

我们的 AI 客服系统曾被一个用户用一句话绕过所有限制，让它泄露了内部知识库的敏感信息。这篇文章系统梳理 LLM 应用的安全威胁模型，以及我们在生产系统中实施的防御层次。