我由衷期待今年在Gartner安全与风险管理峰会（SRM）上为大家带来的内容。
AI发展速度之快，让任何人都难以跟上。但在安全领域，我们谁都不能落后。攻击者正利用AI加快行动、更智能地探测，并以前所未有的速度和规模利用漏洞。层出不穷的热词和缺乏证据的厂商承诺无法弥合这一差距。
这正是我们一直致力于解决的问题。
“随着AI智能体在企业环境中日益普及，能够发现环境中运行的每个模型和智能体、了解其行为，并依据自身风险标准进行治理的组织，将保持领先。”
为何此刻与以往不同
CISO不再询问是否需要保护其AI，而是开始关注如何确认安全控制措施确实有效。这是一个更难回答的问题，也是我们希望推动AI安全领域开始为客户解答的问题。
您的AI安全措施在防范提示词注入等新型威胁方面效果如何？
我们与独立第三方测试机构SecureIQLab合作，对F5 AI Guardrails抵御真实攻击的能力进行了测试。测试向一个OpenAI模型发起了20,000次攻击，以评估其防护效果。
结果显示：F5 AI Guardrails防御直接提示词注入的有效率为99.3%，防御过度代理的有效率为98.7%，防止敏感数据泄露的有效率为99.0%。
为了直观说明其有效性，该模型仅凭自身能力只能将13%的攻击识别为对抗性攻击。这表明，额外的防护机制对于保护企业用例至关重要。
我们率先在AI安全厂商中发布此类经独立第三方验证的结果，并希望其他厂商也能效仿。
我们将在Gartner展示的内容
在Gartner安全与风险管理峰会上，我将介绍F5如何通过3个切实可行的步骤，帮助组织保障AI安全。我们不会停留在理论或白板推演层面，而是会探讨可在生产环境中发挥作用的实际防护措施：
- 部署基础防护措施，在不减缓创新步伐的同时降低风险
- 根据具体用例和风险定义定制防护措施
- 持续测试，让防御能力与威胁同步演进
我们将分享一家全球金融机构的客户案例。该机构需要在不削弱监管合规管控或数据隐私保护的前提下启用企业AI。该客户成功实现了这一目标，我们将介绍其具体做法。
后续展望
除了目前提供的功能外，我们还将让与会者率先了解F5 AI安全的发展方向：发现并治理组织尚未察觉的AI。随着AI智能体在企业环境中日益普及，能够发现环境中运行的每个模型和智能体、了解其行为，并依据自身风险标准进行治理的组织，将更有能力保持领先。这项能力即将推出，我们将在6月1日的Gartner SRM上进行介绍。
欢迎莅临
如果您将参加Gartner SRM，欢迎于美国东部时间6月1日12:00参加我们的会议“F5：三步保护AI”。请在此注册。
如果您正在思考如何保障进入生产环境的AI系统安全，并希望与我们面谈，请在此预约。
此外，欢迎莅临729号展位，亲自了解实际效果。
关于作者
.jpeg)
Nirav Shah现任F5高级副总裁兼产品与解决方案营销负责人，负责制定应用安全和AI安全的战略方向。加入F5之前，他曾在Fortinet任职11年，担任过多个领导职务，其中主要负责AI驱动的SASE、SOC和安全网络解决方案。他还拥有丰富的Cisco Systems任职经历，曾牵头推进SD-WAN重大计划。凭借20多年的网络安全行业经验，他在推出具有市场影响力的产品、打造高绩效团队，以及推动产品开发与销售和营销协同以扩大影响力方面拥有出色履历。作为行业思想领袖和南加州大学校友，他经常在行业会议上发表演讲，并定期为知名出版物撰写有关AI与网络安全融合的文章，同时致力于指导新一代网络安全专业人士。
Nirav Shah 的更多博客文章相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
