《2026 年应用策略现状报告》洞察
多年来，我们一直可以将AI视为实际系统之外的辅助技术。它仅用于试点、概念验证和严格受控的实验，即使失败也不会造成严重后果。当时，推理只是偶尔进行，且与核心应用流程相互独立，因此这种定位是合理的。
这种情况已不复存在。
推理已全面进入请求路径，彻底改变了原有模式。如今，推理与其他生产工作负载一样，需要满足同等的延迟、可用性、可扩展性和安全性要求。数据也印证了这一点：约四分之三的组织已在运行支持AI的应用，超过80%的组织预计近期将在其应用组合中广泛嵌入AI。届时，AI将不再是可选项，而会成为系统的一部分。
可观测性已从事后分析转变为决策输入
可观测性的演变是这一转变最明显的标志之一。过去，可观测性主要用作诊断工具：收集并分析遥测数据，以了解已经发生的情况。
根据我们的《2026 年应用策略现状报告》，可观测性的这一角色已经发生变化，相关数据清楚地反映了可观测性数据的使用情况。
- 告警使用率从2023年的41%跃升至2026年的96%。
- <ul><li>由运营数据驱动的自动化比例从51%升至97%。</li></ul>
- 洞察能力从33%提升至97%。
- 根本原因分析比例从47%升至95%。
- SLO和SLI报告率从41%提升至96%。
这些并非渐进式改进，而是接近全面采用；更重要的是，依赖程度也接近普遍。
可观测性不再只是报告系统状态，还会为系统提供输入。如今，运维数据驱动运行时决策，塑造自动化流程、影响路由，并为策略执行提供依据。在推理驱动的架构中，可观测性并非可有可无，而是必备条件。
运营压力集中在推理环节
要了解系统真正发挥关键作用的环节，可以从运维压力入手。在AI架构中，这种压力集中在围绕推理的各个层。
从运营角度来看，受访者指出：
- 提示词层：29%
- 令牌和控制层：23%
- 模型路由：17%
- 输出审核：14%
安全专业人员报告的优先事项几乎完全相同：
- 提示词层：25%
- 令牌和控制层：23%
- 输出审核：19%
- 模型路由：17%
这种共识至关重要。它表明，运营团队和安全团队都认识到同一点：关键工作发生在推理阶段。
延迟在推理阶段显现，成本在此累积，风险也必须在此加以管理。训练流水线和数据准备仍然重要，但并不承担同等程度的实时运营压力。系统在推理时要么快速、正确地响应，要么无法做到。
在此语境下，推理并非生命周期中的一个阶段，而是工作负载本身。
自动化已全面融入AI
另一个成熟度信号是工作负载的控制方式。对于AI，这种控制绝大多数通过程序实现。
在加速自动化、调整策略和生成建议等用例中，API驱动的自动化始终是首选方法。即使目前尚未使用AI实现自动化的受访者，也仍然更倾向于采用API驱动的机制。
这种一致性反映出人们期望这些系统仅需极少的人工干预即可运行。它们旨在实时采取行动、作出响应并进行调整。推理一旦嵌入这些自动化闭环，便会投入实际运行。
我们已经跨过了这一门槛。
多模型现实进一步推动这一转变
更复杂的是，组织并非只运行单一模型。如今，并行运行多个模型（通常为5至7个）已很常见。大多数适配技术仍较为轻量，主要依赖提示工程、检索增强生成、嵌入或有限微调。
这带来了一些常见的运营挑战：为特定请求选择合适的模型、实施回退逻辑、管理版本、平衡成本与性能，以及在异构端点之间实施策略。
此时，系统开始与其他分布式应用类似，需要进行路由、编排和治理。推理不再只是简单调用，而是必须交付、管理并确保安全。
推理已成为重心
综合来看，趋势十分清晰。
- 推理直接位于请求路径中。
- 可观测性为其提供实时上下文。
- 自动化通过API管控其行为。
- 多模型架构对路由和控制提出了更高要求。
这种组合使推理成为运营的核心。这并非对未来的预测，而是当下的现实。
业界仍在谈论如何将AI投入实际运营，仿佛这还是未来之事。但数据表明事实并非如此。各组织已将推理融入日常运营，并像对待应用堆栈中的其他关键组件一样认真对待它。
真正的问题不在于AI是否会投入实际运营，而在于组织是否认识到AI已经投入运营，以及是否以长期以来管理其他所有运行组件时所采用的同等规范、严谨态度和架构思维来对待推理。
要了解更多信息，请阅读完整的《2026 年应用策略现状报告》。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
会话有粘性，上下文更难甩：推理如何“取巧”维持对话
“无状态”推理并非真正无状态，每次请求都会通过令牌携带对话状态。随着上下文增长，这种重复传输会增加带宽占用、计算开销和延迟。
混合多云面临的新挑战：缺少应用交付和安全平台，运营举步维艰
企业并未放弃本地部署，而是在推进其现代化。随着应用组合持续涵盖多种环境，应用交付和安全必须从依赖特定环境的功能转向统一平台。
唯有可编程性，才能让控制能力在AI规模下持续发挥作用
了解为何数据平面和控制平面的可编程性对于扩展和保护AI驱动型系统至关重要，以及它们如何在快速变化的环境中确保实时控制。