人工智能有望改变人类生活，而且已经在许多方面带来了深远影响。从加速医疗和教育领域的突破，到重塑工作与日常生活，AI正在改变我们的生活和运作方式。但在推动这些进步的同时，AI也为网络犯罪分子提供了可乘之机。
如今，攻击者正主动将AI系统作为攻击目标，通过数据投毒、操纵输出、未经授权利用蒸馏技术窃取模型，以及利用暴露的私有数据来攻击漏洞。这些并非假设性风险，而是真实存在、快速演变的风险，并可能造成严重的经济损失。模型还被用于大幅增强电子邮件攻击、短信和语音欺诈；深度伪造也越来越难以检测，已有多起事件造成数百万美元损失。
““为了持续受益于AI，组织必须像对待网络、数据库和应用安全一样，迫切重视AI安全。””
根据《2025年斯坦福人工智能指数报告》，2024年与AI相关的安全事件数量激增56.4%，报告案例达到233起。这些事件并非只是故障或技术问题，而是涉及严重的安全失陷，包括侵犯隐私、放大虚假信息、操纵算法，以及系统失灵导致敏感决策面临风险。
但一如既往，我们最关注的指标之一是驻留时间，即从入侵发生到被检测到的时间。IBM的2025年第1季度报告显示，针对AI的入侵平均需要290天才能被检测和遏制，远超传统数据泄露事件平均207天的时间。这意味着系统暴露近10个月，让这些借助AI增强能力的攻击者有充足时间造成严重危害。
为何大多数企业尚未做好准备
为了持续从AI中获益，组织必须像对待网络、数据库和应用的安全一样，迫切重视AI安全。然而，目前AI采用与保护之间的失衡表明，实际情况并非如此。
F5《2025年AI应用现状报告》进一步印证了这一点。在受访组织中，只有2%被认为具备较高的安全水平，能够安全地扩展AI应用。与此同时，77%的组织在AI安全和治理方面面临严峻挑战。
报告还显示，在准备程度中等的企业中，只有少数部署了基础防护措施。仅18%的企业实施了AI防火墙，只有24%的企业采用持续数据标注，而这是检测对抗行为的一种关键方法。影子AI的使用日益增多，进一步加剧了这一问题。影子AI是指未经授权或批准的AI工具，会导致企业环境出现严重的可见性盲区。
在竞相部署AI以获取竞争优势的过程中，许多组织无意中扩大了攻击面。
AI为何容易受到攻击
AI的独特特性使其面临新型攻击。亟需关注的漏洞包括：
- 数据投毒：攻击者以隐蔽方式将损坏或误导性数据注入训练集，从而破坏AI模型的行为。2024年，得克萨斯大学的研究人员演示了嵌入引用文档中的恶意内容如何影响模型输出，即使删除这些文档后，影响仍会持续。
- 模型逆向与提取：此类攻击使攻击者能够重建敏感的训练数据或复制专有模型。现实案例包括从诊断系统中还原患者图像，以及从语言模型中重建私密语音录音和内部文本。
- 规避攻击：攻击者通过对输入数据进行细微且通常难以察觉的修改，可以诱使AI模型生成错误输出。例如，研究人员添加了看似无害的贴纸，使自动驾驶汽车的视觉系统将停车标志误判为限速标志。
- 提示词注入：大型语言模型（LLM）的行为容易受到精心构造的输入操纵。曾有一款由雪佛兰经销商使用、基于ChatGPT的聊天机器人受骗，同意以1美元的价格出售一辆汽车。这一结果暴露了声誉和法律风险。
这些威胁并非停留在理论层面，而是现实存在，并且已经在各行各业削弱AI的安全性和可靠性。
构建强有力的AI防御策略
为应对这些挑战，组织必须采取全面的防御策略，同时应对一般网络安全风险和AI特有风险。以下5个步骤可帮助企业保护其AI系统：
- 加强数据治理
建立清晰的AI资产清单，包括模型、API和训练数据集，并严格执行访问控制策略。数据是AI的基础，必须在各个层面保护其完整性。 - 持续测试
突破传统代码审查的局限，实施对抗性测试和红队测试。这些方法有助于在攻击者利用模型反演和提示词注入等弱点之前将其发现。 - 采用隐私优先设计
采用加密、数据最小化和差分隐私技术。即使发生数据泄露，这些方法也有助于降低敏感数据暴露的风险。 - 采用零信任架构
在所有AI系统中贯彻“从不信任，始终验证”的理念。仅向每个组件和用户授予必要的最低访问权限，并严格验证所有活动。 - 实时监控AI行为
实施相关工具和系统，监测模型行为或输入模式中的异常。监控API调用过多、可疑提示词或异常输出等情况，这些都可能表明存在活跃威胁。
F5的AI安全方法
随着越来越多的组织采用混合云和多云环境，F5正通过Application Delivery and Security Platform（ADSP）提供AI原生安全能力，旨在保护现代基础设施。
作为该平台的一部分，F5 AI Gateway通过智能检查和路由LLM请求，帮助防范提示词注入和数据泄露。通过F5 Distributed Cloud API Security和NGINX App Protect提供的高级API安全解决方案，可保护API免遭误用、数据外泄和滥用。
作为F5 ADSP的一部分，F5 Distributed Cloud Bot Defense利用机器学习检测并阻止凭据填充等自动化威胁，同时尽可能减少误报。F5 BIG-IP Advanced WAF解决方案可保护应用和API，同时将安全任务从GPU卸载，从而提升AI密集型工作负载的性能。
此外，F5’s AI Reference Architecture为跨混合云和多云环境构建安全、可靠的AI基础设施提供了蓝图。F5还与众多AI创新企业合作，包括Intel、Red Hat、MinIO和Google Cloud Platform，帮助客户安全、高效地扩展业务。
结语：保障AI安全，守护未来
AI正在重塑其所触及的每个行业，但其潜力也伴随着前所未有的风险。随着威胁日益复杂，安全负责人必须迅速行动并着眼未来，采用主动防护工具、更智能的架构和策略驱动的保护措施。
AI安全必须融入企业战略的各个层面。通过合理结合监管、技术与文化，以美国国家标准与技术研究院的《AI风险管理框架》等经过验证的框架为基础，并借助F5 ADSP等平台，组织可以充分发挥AI的潜力，同时防范其潜在风险。
AI前沿时代已经到来。现在正是保障AI安全之时。
参加Black Hat专题讨论
如果您计划本周前往拉斯维加斯参加Black Hat USA 2025，欢迎参加由F5现场首席信息安全官Chuck Herrin与其他专家在AI Summit期间共同参与的专题讨论，了解他们将如何探讨在AI时代加强数字防御的方法。
此外，欢迎访问我们的网页，详细了解F5企业级AI交付与安全解决方案。
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。