电商的未来在于智能体AI

行业趋势 | 2025年12月02日

Mani Gadde行业营销高级经理

零售商正在开发针对特定任务的智能体AI工具，以切实改善其在线平台的客户体验和运营成效。

随着个人购物智能体的兴起，各组织正在升级基础设施，以支持机器主导的购物模式，而这会带来不容忽视的安全影响。

“零售商需要调整风险策略和安全防御措施，以妥善治理自主智能体。”

防御人员被海量数据、警报和日志淹没。他们需要可付诸行动的上下文信息，以降低复杂性并高效响应，在环境中发现失陷指标之前优先处理最关键的威胁。

本文将深入探讨自主智能体如何可能失控，以及安全和风险团队为何需要谨慎授予其操作权限。

零售业的现实

对于零售商而言，智能体AI蕴含着巨大潜力。一家领先的电子商务提供商已开始部署复杂的个人购物智能体，实时理解客户的购买信号和动态门店环境。

简化客户互动所带来的商业价值和竞争优势固然极具吸引力，但其安全影响也不容忽视。与AI智能体不同，智能体AI旨在自主感知、推理和行动。这种自主性也带来了可追溯性、问责机制和治理方面的问题。

“领先的电子商务提供商已开始部署复杂的个人购物助手。”

在针对Web和移动API的攻击中，电子商务行业遭受高级攻击的比例已位居前列，其中每5笔加入购物车的交易中，就有1笔来自转售机器人。攻击者将继续利用机器人扩大针对后端大语言模型（LLM）的网络攻击规模。黑客组织已经破坏了大型零售商的线上下单、到店取货等主要在线服务，未来必然会调整其战术、技术和程序（TTP），以攻击智能体工作流。

零售商需要采用新方法，确保安全部署智能体AI。如果不调整风险策略和安全防御措施，以应对自主智能体独特的架构和行为，将给企业带来责任风险。

告别传统工具

啊，过去的“美好时光”！保护网络边界，部署网络防火墙和Web应用防火墙等安全控制措施，并开展静态和动态测试。在以南北向流量为主的客户端-服务器架构中，这些传统Web应用安全措施尚可帮助抵御风险。然而，应用快速现代化、基于API的系统兴起，以及高度互联的AI生态系统，已导致风险面不断扩大，机器间（东西向）流量呈指数级增长。

随后，许多企业引入了自然语言处理（NLP）界面。安全团队还在加紧跟进，企业如今已开始部署智能体AI。

“智能体AI正在对安全最佳实践、安全框架和监管监督进行压力测试。”

纵深防御等现有范式仍然适用，因为针对前端的新型AI攻击往往会导致后端遭受远程代码执行（RCE）等传统漏洞利用。

然而，在智能体AI的军备竞赛中，道德披露等成熟的安全最佳实践、通用漏洞披露（CVE）等现有框架以及监管监督都难以跟上发展步伐。

谁愿意使用MCP？

模型上下文协议（MCP）来解围！Anthropic提出的这一标准和Google提出的Agent2Agent（A2A）协议分别有助于解决模型与资源之间以及智能体之间的通信问题，但两者都无法满足全部互操作性要求，因而无法全面满足智能体AI的互操作性需求。

MCP和A2A推动了标准化和互操作性的发展，但安全性如何保障？现有安全控制措施能否有效应对MCP？

工具和应用数量激增，导致影子AI出现；而AI智能体无法检测新出现的攻击提示，因此在设计上存在易受攻击的缺陷，并可能造成敏感数据泄露。

“防御人员必须采取行动，通过改造现有控制措施并部署新的控制措施来确保有效治理。”

安全与风险团队必须采取行动，通过改造现有控制措施并部署新措施来确保治理，从而有效管控智能体风险。尤其是，Web应用防火墙和API安全解决方案必须支持MCP。此外，随着自动化工具包通过AI得到增强，攻击者能够迅速将攻击手段武器化，Bot管理工具必须能够保持韧性。例如，为防止LLM训练数据和检索增强生成（RAG）管道中的内容遭到抓取，Bot管理工具需要使用能够检测恶意模式的ML模型来发现攻击者的新技术，并通过加密和混淆来防止绕过防护。

防御人员还需要对AI模型和应用开展漏洞测试，并结合运行时检查。这些增强措施对于实现可追溯性，以及提供人在回路（HITL）监督所需的洞察至关重要。