本文是AI护栏系列博客的第8篇。
AI安全团队正面临一类新的问题，而且往往是在问题已经发生之后才被要求作答。为什么AI系统会允许生成这样的响应？应用了哪项策略？敏感数据是否已暴露？我们能否证明其他地方没有发生同样的问题？
随着AI成为技术栈的核心组成部分，监管机构、审计人员和内部治理团队日益要求企业提供清晰且经得起审查的证据，说明AI决策如何制定及受到怎样的管控。这一要求正推动企业从基础监控转向真正的AI可观测性。
AI可观测性为何重要
传统安全工具专为确定性系统而设计，例如行为可预测的应用、API和基础设施。AI系统并非如此。它们基于概率进行推理，并会随时间推移不断适应；尤其是在智能体工作流中，它们可能会采取难以预见或事后还原的行动。
这会造成可见性缺口。安全团队可能知道 AI 交互已经发生，却不知道生成特定输出的原因，也不了解策略控制在具体情境下的应用方式。如果 AI 运行时层缺乏可观测性，几乎无法证明责任落实情况，也难以满足不断涌现的监管要求。
运行时可观测性
当模型与用户、应用、智能体或数据交互时，AI风险会在运行时显现。F5 AI Guardrails直接在这一层运行，持续提供对提示词、响应和策略执行决策的可观测性。
AI Guardrails无需依赖不透明的提供商专属控制措施，即可为公有、私有及客户托管的部署提供不受模型限制的可观测性。无论使用何种模型或供应商，都能获得一致的洞察。同样重要的是，它不会影响性能或开发人员工作流，同时可帮助安全团队统一了解AI应用、智能体和用户的行为。
从可见性到可解释性
可观测性不只是收集日志。为了支持审计、调查和治理审查，团队需要了解决策是如何作出的。
这正是F5 AI Guardrails结果分析发挥作用之处。结果分析可逐步追溯运行时执行的每项强制措施。对于每次AI交互，团队都可以查看：
- 模型收到的输入
- 在该上下文中评估的策略
- 执行决定背后的依据
- 向用户提供的最终输出
这种程度的可解释性让AI安全不再是黑箱，而是成为一个可供审查、解释且值得信赖的系统。因此，无论内部利益相关者还是外部监管机构提出问题，团队都能可靠地还原完整的决策路径，而不必依赖推测或不完整的日志。
专为合规团队打造的可审计性
诸如《欧盟人工智能法案》之类的监管框架以及新兴的人工智能治理标准，日益重视可追溯性和问责机制。仅仅声称已实施控制措施已远远不够；组织必须能够证明这些控制措施始终得到一致执行。
F5 AI Guardrails生成可供审计的日志，旨在支持合规工作流。每次AI交互、策略评估和执行操作都会以结构化且可作为可靠依据的格式记录。这有助于合规与安全团队更高效地应对审计、监管问询和内部审查，无需费力从彼此孤立的系统中汇集证据。
由于AI Guardrails可与现有SIEM和SOAR平台集成，因此还可将AI专用遥测数据与更广泛的安全信号关联起来，帮助团队掌握整个企业的安全态势。
复杂AI工作流的全程可追溯性
现代AI系统很少孤立运行。单个请求可能涉及多个模型、工具、API和代表用户执行操作的自主智能体。如果缺乏端到端可追溯性，就很难还原事件经过并确定风险是在哪个环节引入的。
F5 AI Guardrails 为这些多步骤工作流提供可追溯性，使团队能够跟踪从输入到结果的完整交互链。这对于事件响应、根本原因分析和持续治理至关重要。随着组织开始利用智能体，可追溯性将变得更加重要。
借助智能体AI，操作分布在多个步骤和工具中，通常涉及模型调用、API请求和数据访问。因此，单个结果可能反映一系列决策，需要端到端重建这一决策链，以便开展调查和审计。
借助对抗性洞察增强可观测性
当组织不仅了解AI系统在生产环境中的运行方式，还了解其在对抗性条件下如何失效时，可观测性便会得到提升。对抗性测试在这方面发挥着重要的支持作用。
AI Guardrails提供运行时可观测性和策略执行，而来自F5 AI Red Team的洞察可以揭示仅通过被动监控可能无法发现的弱点。对抗性测试可揭示模型如何响应提示词注入、越狱和链式交互，这些情况可能导致违反策略或产生非预期行为。
在此情境下，智能体指纹尤为重要。它们提供可追溯的记录，呈现智能体攻击如何在多轮交互中逐步展开，并记录决策路径、行为变化和工具使用情况，帮助安全团队不仅了解漏洞确实遭到利用，还可了解漏洞是如何以及为何出现的。
随后，可将对抗性测试的发现转化为防护措施，并利用可观测性数据验证这些控制措施在生产环境中的表现。这一反馈闭环有助于组织从被动监控转向持续改进，不仅通过可观测性了解发生了什么，还能降低问题再次发生的可能性。
构建负责任AI的基础
随着AI系统的自主性和互联程度不断提高，观察、追踪和解释其行为的能力变得至关重要。仅了解单次交互已远远不够。组织必须能够还原决策如何在模型、应用、智能体和用户之间逐步形成，尤其是在出现问题时。
F5 AI Guardrails 提供应对这一挑战所需的可观测性层，为整个AI工作流提供运行时洞察、结果级可追溯性以及可供审计的记录。结合F5 AI Red Team 提供的对抗性洞察，组织可以更清楚地了解AI在生产环境中的行为，以及AI如何可能被迫突破预期边界。
这些能力相辅相成，有助于以更负责任的方式采用AI，使安全团队能够更有把握地调查事件，合规团队能够证明已履行尽职调查义务，同时组织可以在不牺牲透明度或控制力的前提下扩大AI应用规模。
了解 F5的AI运行时安全解决方案如何为模型、应用和智能体提供可观测性及满足审计要求的可追溯性。
此外，欢迎阅读“AI护栏”系列此前发布的以下博文：
AI 合规与监管：使用 F5 AI Guardrails 满足法律和行业标准
基于分类器与由LLM驱动的防护机制：哪些方法在AI运行时真正有效
关于作者
相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
