我们的《2026 年应用策略现状报告》发现，目前78%的组织自行运行AI推理，平均使用7个模型。一年前，我们的AI就绪度指数显示，真正做好大规模运行AI准备的组织仅占2%。
这两个数字之间的差距，是当前企业技术领域尤为值得关注的现象。企业并未等到准备就绪，而是为了掌控数据、成本和安全，将推理部署在内部。如今，企业开始意识到，要获得这种掌控力需要具备哪些能力。我们将其称为“推理路径”，即从用户意图到模型输出之间发生的一切，包括检索、路由、工具调用、身份验证、上下文组装、策略执行以及结果返回。模型只是这条路径上的一个组件，路径本身才是整个系统，也是企业需要负责的部分。
我反复遇到的四种误解，其实都是同一个错误的不同表现：把模型当作产品，却把推理路径当作底层管道。
误区1：“模型决定一切。”
应该优先选择哪种模型、哪家供应商和哪个用例？这几乎是每次高管对话中首先提出的问题，却也是最经不起时间考验的问题。
模型是可替换的组件。只有8%的组织完全依赖公共AI服务。其余组织采用多元化的模型组合，正是因为它们希望根据成本、准确性和安全性来切换模型、路由请求并进行故障回退。如果您的架构导致切换模型需要作为一个项目来实施，而不是只需更改配置，那么您一开始就选错了方向。
不可替换的是推理路径：决定模型获取哪些上下文的检索层；决定由哪个模型处理哪类请求的路由逻辑；随调用传递的身份信息；以及决定模型可以如何使用答案的策略。准确性由此而来，成本由此决定，专有优势也蕴藏于此。竞争对手明天就能购买同一模型，却无法买到您的推理路径。
误区2：“如果试点成功，投入生产就会很容易。”
故障并非源于生产环境难度更高，而是因为生产环境本身十分复杂，且推理路径越长，复杂性越高。F5研究显示，绝大多数企业（93%）采用多云运营，86%的企业则将应用分布在混合多云环境中。推理路径会贯穿所有这些环境，而复杂性还在持续增加。随着组织添加更多模型、应用和智能体，可能的推理路径数量也会成倍增长。
我们的研究还发现，52%的组织已经在串联或编排多个模型。以一条模型链为例，假设每个步骤的可靠性均为95%；对于涉及检索、工具调用和概率模型的流程而言，这已经是较为乐观的估计。包含3个步骤的试点模型链成功率为86%，而包含20个步骤的生产模型链成功率仅为36%。每个步骤的可靠性并未改变，但随着步骤增加，系统从大体正常变得大多无法正常运行。
现在，将同样的计算方法应用于安全领域。假设链中的每个智能体都有5%的概率遭到操纵、作用域设置不当，或被授予本不应拥有的凭据，那么在包含20个智能体的工作流中，攻击者很可能至少能利用其中一个环节。这正是超过九成的受访者表示，智能体AI投入生产后会出现新类别问题的原因，包括凭据处理、操作审计，以及一些基本问题：智能体执行了什么操作，又是依据谁的授权执行的。
误区3：“性能、安全和治理是彼此独立的优先事项。”
在传统应用架构中，这种职责划分尚有其合理性。安全工作作为并行流程开展，治理工作按季度进行，而性能工作则由另一支拥有独立预算的团队负责。
AI将这三者合并到同一预算中，并以毫秒和token衡量。推理路径中增加的每项防护措施都会带来延迟。每项治理要求都会占用上下文窗口，导致每次调用都产生费用。提示词检查、输出过滤、个人身份信息（PII）脱敏、模型路由和重试逻辑，每一项既是安全控制措施，也会带来性能开销和预算支出。任何一项的投入都会占用其他项的预算，而削减任何一项都会使其余各项面临风险。
这确实是一个全新的问题。过去，安全开销通常以不易察觉的方式被分摊。如今在推理路径中，这些开销会直接体现在p95延迟和账单上，意味着取舍已变得明确，必须有人对此负责。目前，最常见的控制措施是对AI服务和API访问进行身份验证，55%的组织已采用这一措施；另有47%的组织计划为智能体采用身份感知型基础设施。这两个方向都是合理的，但也都会增加路径延迟。应有意识地为此预留预算，否则团队可能会为了达到性能目标而悄然放弃这些措施。
误区4：“单点解决方案会增加复杂性，但我们能应付。”
以我们数据中的中位数企业为例：该企业使用7个模型，跨多个云运行，应用分布在本地、公有云和托管环境中。再分别为API安全、AI网关功能和输出治理添加独立工具。现在，制定的每项策略都必须针对每个模型，在每种环境中以各种工具所用的不同语言正确表达；其中任何一项发生变化时，都必须重新验证。策略可能在不易察觉的情况下出现偏差的位置数量，是这些变化因素相乘的结果。
凌晨2点出现问题时，“原本应该由哪项控制措施发现这个问题”并没有唯一的责任方。解决之道不是减少功能，而是在路径中设置统一的策略执行点，无论另一端采用何种模型、环境或协议。
策略一致性与模型选择自由并不冲突。只有当策略内置于模型集成中，而不是在模型前端统一实施时，两者才会产生冲突。将应用交付与安全整合到单一平台后，即使每周更换模型，也能在一个位置回答审计人员的问题。
当前值得思考的问题
在贵组织着手管理推理路径时，领导团队需要思考以下四个问题：
- 目前有多少个模型正在生产环境中运行？添加或替换一个模型需要多长时间？
- 目前生产环境中运行的最长智能体链包含多少个环节，其实测端到端成功率是多少？
- AI策略在哪些位置实施？如需更新，需要修改多少个不同的位置？
- 在贵组织的p95推理延迟中，安全和治理开销占比是多少？谁对这一指标负责？
如果这些问题得到的只是估算，而非确切答案，这本身就是有价值的信息。现在发现这一点，远胜于在事件发生时才意识到。建议所有组织在本季度审计推理路径。这个时代的领先组织，不会是运行AI最多的组织，而是能够准确说明AI在每个运行环境中从提示到响应之间究竟发生了什么的组织。
如需深入了解相关数据，请下载《2026 年应用战略现状报告》。如需了解 F5 如何将其 Application Delivery and Security Platform 战略扩展至企业 AI，请访问F5 AI Security Platform网页。此外，别忘了查看今天的新闻稿。
关于作者
Kunal Anand担任首席产品官，负责领导F5产品组织。他负责产品愿景、战略和执行，推动开发突破性解决方案，以应对关键挑战，并为客户打造卓越体验。在此前担任首席技术与AI官期间，Kunal制定了公司的技术与AI战略和愿景。 加入F5之前，Kunal曾在Imperva同时担任首席技术官和首席信息安全官。2018年，Imperva收购了他于2013年联合创立的应用安全初创公司Prevoty，他也由此加入Imperva。在加入Prevoty之前，他曾担任BBC Worldwide技术总监。Kunal拥有深厚的创新经验和技术专长，曾在Gravity、MySpace和NASA Jet Propulsion Lab担任领导职务，负责安全、数据、技术和工程团队。 Kunal在AI和机器学习领域拥有超过15年的经验，涵盖模型训练、运用AI驱动的算法增强产品，以及设计和实施AI架构。 Kunal拥有Babson College计算机科学理学学士学位。
Kunal Anand 的更多博客文章相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
