曾几何时，应用还很简单，网络速度也很慢，所有人都坚信SOAP代表未来，那时压缩关乎生存。之所以采用压缩，是因为带宽成本高、存储空间有限，而且用户看重快速响应。负载越小，交付速度越快，客户越满意，云服务提供商寄来的意外账单也越少。
那时，压缩是一项值得称道的技术，让一切都变得更好。
但AI时代总能以一种非凡的方式，将我们习以为常的假设置于审视之下，让我们发现，不经意间，世界早已改变。如今，我们对压缩的看法尤其能说明这一点。
过去，压缩关注的是性能。后来，关注的是带宽。如今呢？
压缩是为了避免推理成本拖垮企业。
先说显而易见的事实：没错，带宽仍然要花钱。云数据出站费用向来令人头疼，数据传输账单也依然可能让人心惊。但不妨实事求是地比较一下：通过网络传输1 MB数据的成本，与使用高端大型语言模型（LLM）生成10,000个token的成本，究竟相差多少。前者只是月度账单上一个几乎可以忽略不计的零头，后者却会让财务部门发来措辞严肃的消息，追问为何第3季度的预算突然被用完了。
在AI领域，压缩并不是为了缩小数据量。生成每个token都需要机器进行认知处理，而这种处理成本高昂。因此，我们通过压缩来降低机器“思考”这些内容的成本“think about.”
压缩的新经济学
大语言模型（LLM）重新定义了瓶颈，颠覆程度之大，几乎让过去30年的系统工程经验显得不值一提。过去，您需要优化网络路径、尽量减小有效载荷并预先压缩资源，以免应用在3G连接下仿佛要花上6天才能加载完成。
如今，系统中速度最慢、成本最高的组件根本不是网络。
而是大脑。
LLM每生成一个词元，都要消耗GPU计算周期、显存和能源，还会带来延迟和成本。成本可能相当高，具体取决于本季度您青睐哪种模型。如今，生成文本的成本远高于传输文本的成本，这意味着压缩的价值链已经发生逆转：
压缩不是为了缩减数据量，而是为了减少AI需要进行的思考。
说实话，这句话听起来很有趣，但也确实反映了实际运作情况。
如今压缩功能位于何处
早些年，网络访问仿佛来回都是上坡路，压缩功能部署在网络边缘的专用设备上。后来，这项功能逐渐整合到应用交付控制器中，并有了“精简”和“HTTP压缩”等名称。它一度是一项专用功能。如今呢？它已成为应用交付不可或缺的一部分。
不过，得益于AI，新的压缩技术正在涌现。这或许是形势所迫。我们不再只是使用成熟算法压缩文本，而是像遵循《芝加哥格式手册》或美联社写作规范的编辑一样，手持红笔，卯足了劲删减字词。
提示词压缩
这是新的重量级冠军。精简提示词，就能减少账单金额。无关细节？删掉。重复上下文？删除。过于啰嗦的指令？像修剪疯长的树篱一样精简。提示词越短，消耗的token越少，采购部门也越满意。
输出压缩
“简明扼要”已悄然从一种写作偏好升级为成本控制策略。回答越短，成本越低；回答越长，就得有人为这些冗长内容买单。
嵌入压缩
这里减少的不是字节数，而是维度。维度降低后，内存占用和检索成本也会随之下降，向量存储每分钟悄然产生的各项费用也会相应减少。
模型压缩
剪枝、量化、蒸馏。过去，这些还只是学术界的新奇研究。如今，它们只有一个目的：以更低成本运行模型。
如果还能运行得更快？那当然很好。如果能在更小的GPU上运行？那简直是奇迹。但重点始终只有一个：降低算力消耗。
以压缩实现控制
当系统中成本最高的操作是思考时，就会开始将思考视为一种有限资源。这与我们熟知的所有性能模型恰恰相反。网络成本低，存储成本低，CPU成本低，内存也足够便宜，以至于我们几乎不再费心管理它。
但GPU推理呢？它就是新时代的石油。没错，我也讨厌这种陈词滥调，但既然贴切，也不妨这么说。
而且，就像石油一样，如今全球经济都在致力于高效挖掘每一分价值。压缩已不再是锦上添花，而是AI运营的支柱。
这样既能将成本控制在预算内、负责任地扩展规模，又能避免令牌用量意外超支数百万美元，还能防止智能体仅仅因为忘记设置max_tokens而重写《战争与和平》。
如今，我们进行压缩，并不是因为网络承受不了负载，而是因为AI承担不起账单。未来的重点不是让数据更小，而是降低思考的成本。
压缩不再是为了网络，而是为了账本。如果这催生了运营核算，也不必惊讶。反正我不会。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
恶意软件包正在摧毁我们的行业
尽管AI和自动化技术加剧了供应链滥用，开源生态系统仍缺少用于登记恶意软件包的中央注册库。该生态系统需要一种可信的方式来报告和跟踪安全失陷事件。
