AI应用交付十大问题：交付策略不兼容

Lori Mac Vittie杰出工程师兼首席技术布道师 | F5

过去，交付策略不兼容属于那种只有在系统出问题后才会受到关注的“架构规范”问题。这种情况并不陌生：一个团队更改了云A中的路由，另一个团队更新了云B中的安全规则，生产环境的表现突然与预发布环境截然不同。没有人能稳定复现问题，唯一能确定的只有一句：“可能是网络问题。”

ADC07直指问题本质：当不同环境中的交付策略不一致时，就会出现性能不可预测、故障转移不可靠、扩展瓶颈以及大量运维难题。

现在再加入AI，问题就不再只是缓慢恶化，而会加速升级。

对性能的影响

不兼容的交付策略会引发看似随机的性能问题，而这类问题往往最棘手，因为工程师无法“修复随机性”，只能不断追查。

AI让故障排查变得格外棘手，因为AI交互通常由多个步骤串联而成。单个用户请求可能会触发检索、重新排序、推理、工具调用，随后再执行一轮推理。如果其中任何阶段跨越了策略不同的环境边界，整个体验就会出现抖动。

即使在交付传统应用或现代应用时，不兼容的策略也会导致跨提供商路由效率低下，并增加延迟。这是基本现实。在AI交付中，这种低效会让系统显得迟缓且表现不稳定，即使从技术上看一切都处于“正常运行”状态。

对可用性的影响

此时，不兼容的交付策略会从造成不便升级为引发中断。可用性取决于系统在压力下能否保持一致的行为，而不兼容的策略往往恰恰会在系统承压时暴露出来。

故障转移就是一个典型例子。如果一家提供商的故障转移逻辑与另一家不一致，流量可能无法顺利重定向，或被重定向到技术上仍在运行、但实际运营能力受损的区域。ADC07直接指出了混合多云环境中冗余和故障转移方法不匹配所导致的这一问题。

AI又增加了一层复杂性：编排和智能体行为。当智能体遇到延迟或故障时，通常会重试或尝试其他路径。如果不同环境采用不同的交付策略，这些替代路径的行为可能并不一致。这会导致“软故障”，例如系统返回部分结果、在工作流执行过程中超时，或因访问的工具端点不同而给出不同答案。

对可扩展性的影响

在多云环境中，只有策略足够一致，使流量能够自由转移到有可用容量的位置，扩展才能有效实现。如果交付策略互不兼容，扩展将受限于“正确”策略所在的位置，而不是可用资源所在的位置。

结果是，一些区域不堪重负，而另一些区域的资源仍未得到充分利用。在AI系统中，如果只扩展基础设施，却没有同步扩展策略一致性，就会出现这种情况。最终，某个区域虽然拥有充足的计算资源，却因路由规则、速率限制或安全约束而无法使用这些资源。

AI还打破了“每秒请求数”这一传统认知。系统负载由会话、令牌和多步骤链构成。如果某个环境对有效负载大小、并发量或超时阈值的限制更严格，可能会无意中限制整个系统的可扩展性。更糟的是，如果会话因被分配到不同环境而有的成功、有的失败，用户重试会进一步增加负载，形成典型的恶性循环：扩展压力不断催生更多扩展压力。

对运营效率的影响

不兼容的交付策略会迫使运维团队把精力花在转换适配上，而不是工程工作上。每跨越一个环境边界，都需要重新解读原有意图。每个云都有自己的配置项、默认设置，以及一套独特的方式让日常工作陷入混乱。

不同提供商采用不同的监控和报告标准，这已经让全面掌握情况变得困难，并会减慢事件响应速度。AI让问题更加复杂，因为故障排查需要覆盖端到端的整个流程。如果用户表示“助手响应很慢”，就需要确定问题出在推理、检索、路由、工具调用还是策略执行环节。

策略偏移并非理论上的问题。AI交付流水线会放大这一问题，因为人们往往会快速拼接新组件，而策略一致性通常被搁置为“以后再处理”。在运维中，这种想法往往会埋下隐患。

缓解交付策略不兼容问题的实践建议

解决方法并不新奇，也正因如此才难以落实。必须将交付策略视为一等工件，而不是仅存在于某个人控制台操作中的经验知识。

这意味着策略需要采用声明式定义、具备可移植性，并在不同环境中得到一致执行。路由规则、故障转移行为、缓存决策、速率限制和安全控制应随应用一同迁移，并采用与代码相同的方式进行验证。如果依赖在不同云之间手动转换策略，就难免会出现配置漂移，而配置漂移正是“昨天还能正常运行”这类问题的根本原因。

还需要统一的可观测性，因为看不见就无法管理。跨云的碎片化监控会造成盲区，而AI系统必然会利用这些盲区。保持遥测的一致性，并采用一致的策略验证检查，才能避免故障排查变成“考古”。

最后，尤其对于AI系统，需要采用能够理解现代流量模式的策略。智能体和工具调用会产生传统交付策略在设计时从未考虑过的行为。如果仍假定每个请求都是规范且由用户发起的REST调用，并据此执行策略，就可能阻止合法的AI工作流，或让危险的工作流漏过。无论哪种结果，都不利于保障正常运行时间或控制风险。

结论

ADC07从根本上关注的是不一致性，而不一致性正是可靠交付的大敌。AI会增加交互、形成依赖链，并使用户更难以容忍不可预测性，因此风险也随之上升。

要让AI系统在混合云和多云环境中始终快速、稳定且值得信赖，交付策略就不能再依赖各环境中口口相传的特定做法，而应保持一致、可移植并得到统一执行。否则，整个技术栈就会像一套东拼西凑、只能“勉强运行”的系统，在实际负载下崩溃。

详细了解全球组织面临的十大应用交付挑战。

关于作者

Lori Mac Vittie杰出工程师兼首席技术布道师 | F5

Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。

Lori Mac Vittie 的更多博客文章