F5 AI Gateway：企业所有AI的统一控制点

Nirav Shah产品与解决方案营销高级副总裁 | F5

尽管各家企业都在争相采用AI，但几乎没有企业找到有效的治理方法。一家知名的全球科技公司仅用4个月就耗尽了2026年全年的AI预算。另一家公司则试图通过将每位员工每周的AI支出上限设为200美元来控制预算。如果技术实力雄厚的企业都无法控制AI支出，大多数企业就更难做到。

据McKinsey & Company称，88%的组织已经在使用AI，但大多数AI流量会直接流向第三方大语言模型（LLM），缺乏成本控制、治理和审计跟踪。Token支出同比增长至10倍，同时，个人身份信息（PII）正泄露给企业并不拥有的模型，智能体也可以不受限制地访问MCP工具。

为帮助解决这些问题，F5今天宣布推出新一代F5 AI Gateway。这是一个统一控制平面，可对跨模型、智能体、工具、API和数据的每次AI交互进行管控、优化和保护，无论这些组件在何处运行。

治理差距正在扩大

当前的AI治理格局从设计层面就呈现碎片化。一些供应商将AI功能附加到更广泛的API管理平台上，导致其产品专业化程度和性能较低，并且缺乏专门构建的AI治理能力。另一些供应商虽然提供流畅的开发者工作流，却缺乏受监管行业所需的企业级可信度、支持能力和长期持续运营能力。

结果不难预见。企业正将定制代理、特定提供商的SDK、独立防护机制和彼此分离的可观测性工具拼凑在一起，导致管道脆弱、供应商数量激增，并且缺乏可统一管理模型、智能体和工具的策略模型。

今年早些时候，F5推出了F5 AI Security Platform，为企业的每一层AI资产提供统一保护，涵盖为AI应用提供支持的模型和数据源，以及连接这些模型和数据源的API与智能体。F5 AI Gateway专为弥合治理缺口而设计。随着此次增强版本的发布，它将成为AI Security Platform的运行时策略执行点，把平台级策略转化为针对每个请求的实时决策。

三项关键功能，一个控制平面

F5 AI Gateway通过一个控制平面、一套策略模型和一个控制台统一三项关键功能，无需再拼接多个独立工具：

Model Gateway管理并优化每次LLM交互。通用端点可屏蔽提供商的复杂性，智能路由则会根据任务自动将请求定向到合适的模型，避免将高端模型浪费在简单工作负载上。Model Registry为平台和开发团队提供经过筛选的已批准模型目录，无需再猜测哪些模型获准使用，从而加快AI创新。

语义缓存和精确缓存、提供商故障转移以及感知GPU的多云路由可带来可衡量的成效：无需更改应用，即可在90天内将token成本降低30%–60%。仅提示词缓存一项功能就能重塑token经济模式。AI Gateway通过缓存意图和含义相近的提示词，避免重复的推理调用，让组织不必再为同一项工作反复付费。

对于眼看AI账单不断攀升的FinOps负责人而言，这并非路线图上的承诺，而是可量化的成果。对于无法了解AI支出情况的IT运维团队，令牌计量和实时仪表板可将每一笔支出归因到具体用户、团队和模型，让不透明的成本转化为可分析的成本洞察。

MCP Gateway为智能体AI这一新兴领域提供治理。随着智能体数量不断增加，它们可以不受任何管控地完全访问MCP服务器和工具，也不会留下审计跟踪记录。MCP Gateway引入集中式MCP Server Registry，让团队能够在一个视图中查看整个组织内的所有MCP服务器，无论是公共、远程还是私有服务器。

按工具设置的允许/拒绝规则和访问控制可确保智能体只能访问已明确获准使用的工具，同时，开发人员无需集成特定于提供商的SDK，也无需自行管理回退逻辑，即可高效、高性能地路由至模型和工具。按工具设置预算和配额，可防止智能体失控消耗AI资源。如果缺少按工具设置的控制措施，智能体的令牌成本实际上将不受限制。单个自主循环就可能在无人察觉的情况下消耗价值数千美元的令牌。

F5 AI Guardrails对每个提示和响应执行20多项策略，包括对个人身份信息和个人健康信息进行脱敏、防御提示注入和越狱攻击，以及根据组织和监管要求定制规则。故障关闭机制会在不安全的交互到达模型或用户之前将其阻止。完整的审计跟踪、与SOC2、ISO和HIPAA要求保持一致、支持导出至安全信息和事件管理（SIEM）系统，以及数据驻留控制，让每次AI交互都有据可查，使团队能够验证合规性，而不只是作出承诺。

预算、审计、可观测性和基于角色的访问控制（RBAC）等共享功能统一应用于这三项职能。控制不再分散，视图不再割裂。

F5 新一代 F5 AI Gateway 将三项关键功能整合到一个解决方案中，包括模型网关、MCP 网关和 F5 AI Guardrails。

一个平台，统一实现应用、AI和API的交付与安全

该领域的大多数解决方案只能应对AI治理挑战的某一方面。F5 AI Gateway则着眼于全局，并在此基础上提供更多能力。

由于AI Gateway是F5 Application Delivery and Security Platform的一部分，组织获得的不只是AI治理，还包括L7负载均衡、机器人防御、API安全、API网关、WAF和DDoS防护。这些能力采用纵深防御架构，覆盖第3层和第4层，一直延伸至提示词和响应安全。

作为F5 AI Security Platform的执行层，AI Gateway将这种纵深防御延伸至AI环境本身，从而检查并保护流入模型的数据，对智能体与工具之间的交互进行授权和审计，归属并优化令牌消耗，同时记录每项操作以满足合规要求。该解决方案将AI Guardrails、WAF、API安全、机器人防御和DDoS防护整合到统一的分层架构中。

对于致力于提升运营效率的CIO而言，这是一个统一的应用、AI和API交付与安全平台，可同时减少供应商数量并降低运营复杂性。对于关注AI成本快速攀升的CFO而言，该平台通过量化成果提供可验证的投资回报，并借助预算分级、按用户跟踪支出以及在账单成本失控前触发的阈值警报，让企业的Token经济成本变得可预测。

对于应对不断扩大的AI威胁面的CISO，该平台可提供从基础设施到提示词的纵深防御。对于安全负责人和AI治理团队，该平台可明确每个模型、智能体和工具中“谁可以访问什么”。

对于开发人员和平台工程师而言，Model Registry、MCP Registry和按工具设置的访问控制有助于减少工单和集成难题，并提供一个他们真正愿意使用的受治理AI平台。

各行业初显发展势头

无法坐等AI治理自行成熟的企业已经开始采用这款新一代F5 AI Gateway。

中东一家大型信用卡处理机构正在部署AI Gateway，以实施防护措施，抵御提示词注入、越狱攻击和个人身份信息（PII）外泄，确保客户支付数据和个人身份信息不会在未受保护的情况下传输至第三方模型。对该客户而言，故障关闭式强制执行和全面可审计性并非可选功能，而是监管要求。

硅谷一家大型科技公司每年在LLM推理上的支出为5,000万至1亿美元，目前正采用AI Gateway，以了解token的具体去向并控制成本。在如此大的规模下，token经济性已成为董事会关注的问题：缓存命中率每提高1个百分点，或智能路由每实现一定程度的优化，都能节省数百万美元。通过token计量、团队级预算配置文件，以及将简单工作负载从高端模型分流的智能路由，该公司可立即获得可量化的机会，节省数千万美元的AI成本。

亚太地区一家颇具影响力的金融服务机构正处于企业AI应用的早期阶段，也在使用AI Gateway，从一开始就在基础架构中融入治理能力。该机构的运营和IT团队希望实现成本可视化和预算控制，而开发人员则需要经过筛选的Model Registry和MCP Registry，以借助合适的工具加快创新。通过从一开始就采用统一控制平面，而不是后期再附加治理机制，这家金融服务机构正在将AI打造为一项可管理、可扩展的能力。

三大行业，横跨三大洲，却有一个共同需求：在AI支配您之前，先对AI实施治理。

企业采用AI的速度已超过其治理能力。F5 AI Gateway为每个团队提供所需的可见性、控制力和信心，帮助扭转这一局面。立即试用。

此外，请务必阅读我们的新闻稿。

关于作者

Nirav Shah产品与解决方案营销高级副总裁 | F5

Nirav Shah现任F5高级副总裁兼产品与解决方案营销负责人，负责制定应用安全和AI安全的战略方向。加入F5之前，他曾在Fortinet任职11年，担任过多个领导职务，其中主要负责AI驱动的SASE、SOC和安全网络解决方案。他还拥有丰富的Cisco Systems任职经历，曾牵头推进SD-WAN重大计划。凭借20多年的网络安全行业经验，他在推出具有市场影响力的产品、打造高绩效团队，以及推动产品开发与销售和营销协同以扩大影响力方面拥有出色履历。作为行业思想领袖和南加州大学校友，他经常在行业会议上发表演讲，并定期为知名出版物撰写有关AI与网络安全融合的文章，同时致力于指导新一代网络安全专业人士。

Nirav Shah 的更多博客文章