大量研究表明，消费者缺乏耐心。如果应用性能不佳，他们会弃用甚至删除应用，还会在社交媒体上公开抱怨。对许多人而言，“性能不佳”就是“响应时间超过两三秒”。
再看生成式AI。根据实际体验和基准测试，生成式AI通常需要远超几秒的时间才能响应。不过，就像与亲友发短信聊天一样，当聊天机器人正在“思考”时，界面会贴心地显示动态的“……”，表示即将给出回复。
不知为何，这段动画会触发一种近乎数字化的巴甫洛夫式反应，让我们愿意等待。原因或许在于拟人化心理：当非人类事物被赋予类似人类的个性时，我们往往会对其更加宽容。因此，当我们认为AI至少具有人类特征时，也会像对待真人一样，对它多一些耐心。
无论我们为何愿意等待当今的AI用户体验，这都会引出一个问题：这种宽容能到什么程度，又能持续多久？随着越来越多的应用集成、增强并融入AI功能，可接受的性能标准也日益成为亟待回答的重要问题。
对于AI用户体验而言，多大的延迟可以接受？延迟出现在哪个环节是否重要？还是说，只有明确涉及生成式AI时，这种延迟才可以接受？
这是一个值得重点研究的领域，因为我们知道，应用安全的一大禁忌就是在处理过程中引入延迟。尽管检查内容并评估其是否存在SQLi、恶意代码、提示词注入等已知威胁不可避免地会产生延迟，但只要解决方案导致性能下降，应用安全服务用户往往会迅速停用。
请看例证A，这是我们《2022年应用策略现状》调查中受访者对这一问题的回答。近60%的IT和业务领导者表示，为获得1%至50%的性能提升，他们会关闭安全控制措施。
显然，性能至关重要，而延迟则被视为“非常糟糕的事情™”。那么，对于AI用户体验而言，多大的延迟可以接受？“响应时间必须少于X秒”这一传统衡量标准是否仍然适用？还是说，AI正在放宽所有应用的这一限制，抑或仅限于那些明显采用AI的应用？
如果我们的耐心只是最初的反应，部分源于生成式AI带来的新鲜感，那么当这种新鲜感消退后，我们该怎么办？
如果推理速度继续按照当前趋势提升，这个问题或许将不复存在。但如果并非如此，用于交付、保护和支持AI的组件与服务是否需要进一步提速，以弥补推理速度缓慢的问题？
这个行业的发展速度就是如此之快。一个问题会引出更多问题，还没等找到答案，新的问题又出现了。积压的未解问题就像一家企业里的故障工单：有人拔掉了核心交换机的电源，随后整个IT团队都下班了。
我们知道，AI将改变应用交付和安全领域。这既会影响希望利用AI增强客户服务和企业运营的组织需求，也会影响为其构建解决方案的组织。显而易见的解决方案包括AI网关、数据安全，以及防御DDoS等传统攻击。这些问题相对容易解决，我们也已着手应对。但要了解其长期影响，尤其是对性能的影响，则困难得多。
因为另一个现实是，硬件性能的提升终将受到物理条件的限制。届时，整个行业都需要共同探索，如何提升这一必将成为每家企业关键组成部分的技术的性能。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。