大多数组织并未对生成式AI的推广部署进行规划。一个团队搭建了聊天机器人，另一个团队将模型连接到内部数据，如今又有一个智能体在生产环境中悄然调用工具。在从试点快速推进到部署的过程中，安全工作被落在了后面。
F5白皮书《保护生成式AI：30-60-90天框架》旨在弥合这一差距。该框架并未将AI安全视为采购清单上的一个勾选项或一次性审计，而是提供了一条循序渐进的90天实施路径，帮助团队从保护单个应用，逐步发展到运行覆盖整个应用群的安全计划，再到防御自主智能体。
那么，这一框架具体是什么样的？
第0至30天，重点是规范执行，而非部署速度
面对任何新的生成式AI应用，人们往往急于将其上线。然而，我们的AI安全框架建议采取不同的第一步：将模型选择、红队测试和防护机制设计视为前30天的核心工作，而不是必须克服的阻碍。
这意味着，首先对基础模型开展红队测试，以建立安全基线；然后在此基础上构建应用；最后对组合系统开展红队测试，评估应用是提升还是降低了安全性。此外，还需要围绕四个不同类别构建防护机制，包括现行法规、AI专项法规、用例威胁和红队测试发现，避免任何事项因无法明确归入某一类别而被遗漏。
第一阶段的成果是一套可重复执行的闭环流程：当出现新的零日威胁时，再次开展红队测试，修补防护机制，完成验证后重新部署。
第30至60天：将单个受保护应用扩展为系统化项目
妥善保护一个应用是不错的成果。但要以相同方式、相同节奏和相同的可审计性保护20个应用，则是完全不同的问题。大多数组织都会在这一阶段停滞不前。
我们的框架包含四大支柱，可将临时性的安全工作转化为可扩展的体系：
- 根据风险等级设定明确的红队测试周期
- 建立防护措施补丁管道，以便同时在多个应用中推出（或回滚）更新
- 建立覆盖整个应用群的零日漏洞响应流程，并制定切实有效的服务级别协议（SLA）
- 为SOC提供支持，使安全运营人员能够像调查其他威胁一样熟练地调查AI事件
当组织能够明确每个AI应用的负责人及其最近一次测试时间时，第二阶段即告完成。
第60至90天：应对本质上不同的风险
自主智能体不只是回答问题。它们会持续运行，对多步骤计划进行推理，并通过工具执行实际操作。这意味着，针对请求-响应式应用构建的安全模型无法直接适用。
我们的框架围绕两个核心思路给出应对方案。首先，可观测性不能只记录结果，还必须记录推理过程：将智能体的每个思考、工具调用和决策关联起来，以便在事件发生后进行审查时，不仅能还原发生了什么，还能还原其过程。其次，当智能体的推理偏向风险方向时，直接阻止这一思考往往会导致智能体在任务执行过程中中断。对此，该框架提出采用思考注入，即用更安全的思考替换有风险的思考，使智能体能够继续有效执行任务；同时结合操作层面的控制措施，例如工具权限，以及针对高影响操作的审批关卡。生成式AI安全并非达成后即可置之不理的单一里程碑，而是一套持续的运营机制。该框架旨在帮助安全团队尽早建立这套机制，避免AI部署中的缺口演变为安全事件。
阅读我们的白皮书，了解完整的30-60-90天框架，其中包括可供团队立即采用的第1至第3阶段检查清单。此外，别忘了报名参加即将举行的网络研讨会。
关于作者
相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
