仅靠模型护栏无法保障AI系统的安全。我们的研究团队每月测试前沿模型时都会发现这一点（结果发布在AI安全排行榜上）。模型护栏有助于设定行为边界，但攻击者会持续发起攻击。面对接连不断的提示词注入、越狱尝试和新型漏洞利用，组织仍可能遭遇模型护栏原本并非为阻止的数据泄露、合规失效和对抗性操纵。要切实保护AI应用和智能体，组织需要部署运行时护栏，通过实时检测并阻止正在发生的威胁来提供防护。
企业为何不能仅依赖模型Guardrails
AI模型防护机制属于预防性工具，通常内置于训练、强化学习或提示词规则中。它们用于规范AI系统的预期行为，限制模型应该和不应该执行的操作。但模型投入生产环境后，实际使用会通过以下情况暴露其局限性：
- 攻击者设计新的提示词和利用手段，绕过护栏限制
- 即使输出看似安全，个人身份信息（PII）或源代码等敏感信息仍可能泄露
- 适应速度慢，模型防护机制通常需要重新训练或重新配置，才能应对新威胁
换言之，模型防护机制可以提供指导，但并不能保证安全。
运行时Guardrails可捕获模型Guardrails遗漏的问题
F5 AI Guardrails弥补了模型防护机制留下的空白。在运行时，运行时防护机制会实时检查提示词和输出，在问题出现前阻止存在风险的交互或将其标记出来。例如，提示词注入和越狱防护机制可以检测试图绕过策略的操纵性提示词。同样，数据丢失防护机制可阻止敏感数据流出组织。
运行时防护机制可采用阻止模式（防止违规行为）或审计模式（记录事件以供监督）。与模型防护机制不同，这些运行时防护机制会持续更新，确保防御措施能够跟上不断演变的攻击。
简单来说，模型的护栏就像建筑物周围的围栏，限定人员可以活动的范围。运行时护栏则如同入口处的安全检查点，检查所有通过入口的内容。前者设定边界，后者确保有害内容无法蒙混过关。
主要区别
运行时防护机制和模型防护机制都有助于保障AI安全，但二者的运作方式存在根本差异。下表概述了这些差异，便于快速了解。
这种对比清楚地表明：模型护栏有助于引导AI，而运行时护栏才是在生产环境中切实保障AI安全的关键。
企业为何需要运行时Guardrails来保护AI
虽然运行时防护机制在推理阶段提供更强的多层保护，但只有与模型防护机制结合使用，其真正价值才能得以体现，二者协同构建纵深防御策略。
模型护栏为模型行为设定基本边界。运行时护栏在此基础上扩展保护，可发现模型护栏无法预见的新型威胁和规避尝试。例如，模型护栏可能会禁止模型提供医疗建议，而运行时护栏则会检测并阻止通过间接措辞或操纵性提示词绕过该规则的尝试。
这种分层方法可提供更强有力的AI安全防护能力，帮助企业在从容创新的同时，持续抵御不断演变的风险。
关于作者
相关博客文章
三家企业如何借助AI驱动的WAF改进虚拟补丁和运行时安全
了解三家F5客户如何利用AI驱动的WAF加快虚拟补丁部署、将误报减少50%以上，并更有信心地启用阻断模式。
F5 BIG-IP v21.0增强S3工作流的AI数据交付与摄取能力
使用F5 BIG-IP 21.0版优化S3工作流：通过低接触式配置，为AI数据交付、对象存储和RAG管道提供可扩展的安全解决方案。
Everest Group报告：生成式AI行业应用的当前趋势与未来前景
我们很高兴能为全球知名研究机构Everest Group发布的一份重要新报告作出积极贡献。该报告题为《生成式AI应用：审视横向职能中的实际应用与未来展望》，深入分析了各行业对生成式AI（GenAI）的应用情况。报告指出，IT［……］