生成式AI并不存在“一种模型统领一切”

F5生态系统 | 2024年6月25日

从新闻标题来看,OpenAI似乎是生成式AI领域唯一的选择。每次谈到AI都会提及OpenAI,本文也不例外。但市面上还有其他服务,也有其他可用模型。

事实上,企业对生成式AI的采用情况并不像新闻标题所暗示的那样趋同。

我们最新的研究发现,各组织平均运行近3种不同的模型。选择这些模型的原因似乎取决于具体用例。

例如,安全运营用例倾向于采用开源模型并不意外,因为这类模型可以进行私有化训练,无需担心暴露业务流程和企业敏感数据。内容创作也是如此,因为这类用例通常需要与模型共享敏感数据。工作流自动化用例选择Microsoft托管服务同样不足为奇,因为许多组织在本地和Azure环境中都与Microsoft解决方案紧密集成。

随着企业应用场景不断增多,任何单一模型都无法满足其全部技术和业务要求,包括生成式AI应用场景。

由于不同的模型选择意味着不同的部署模式,因此会给应用交付、安全和常规运维带来一些挑战。

新兴AI部署模式

目前出现了三种基本部署模式。其核心区别在于由谁负责推理服务扩展的运营工作。在所有模式中,组织都负责应用交付和安全。

  1. SaaS托管。在SaaS托管部署模式中,AI应用使用API访问AI托管服务,例如OpenAI ChatGPT。扩展规模的运维责任由提供商承担。
  2. 云托管。云托管部署模式利用由云提供商托管的AI服务。这些服务仍通过API访问,但既可以由企业专用,也可以共享。AI应用本身也可以部署在公有云或本地环境中。对于专用服务,企业需要负责扩展推理服务。由于大多数组织缺乏大语言模型扩展经验,这可能是一项挑战。对于共享服务,组织将相关责任交由云提供商承担,但在运营过程中必须考虑配额和按令牌计费的成本等因素。
  3. 自行管理。开源模型最有可能采用自行管理模式部署,既可部署在公有云中,也可部署在本地。可通过API或直接通过应用程序访问模型。在此模式下,组织需要全面负责推理服务的扩展、安全保护和监控。

(如需深入了解这些模式,可阅读Chris Hain的这篇博客)

许多提供商可托管开源模型,以支持SaaS托管模式;还有许多云提供商也提供开源即服务。

OpenAI模型不仅可通过OpenAI以SaaS托管模式使用,还可通过Microsoft以云托管模式使用。Mistral是一种广受欢迎的开源模型,可采用上述三种模式进行部署。因此,我们认为用例是选择模型的主要驱动因素,因为企业可以根据需要灵活组合模型和部署模式。

组织已经感受到技能方面的压力,不仅需要具备训练模型的技能,还需要具备运维和保护模型的技能。因此,对于许多运营专业能力有限的组织而言,根据用例匹配模型是更合理的选择。将资源集中投入因安全或隐私原因而无法采用共享模式部署的用例,最终将取得更好的成效。

警惕运营短视

但要警惕运营视野狭窄带来的风险,这可能导致组织内部形成孤岛。云计算领域已经出现过这种情况,企业生成式AI领域无疑也会重蹈覆辙。不过,如果能意识到按模型割裂运营与安全的风险,组织或许可以避免由此产生的复杂性和风险,并从战略层面选择能够充分利用运营资源、能力和预算的模型与部署模式。

目前仍处于早期阶段。等您读到本文时,很可能已经出现了新的提供商、新模型和新功能。但部署模式总体上不会有太大变化,因此可以更有策略地规划运营工作,包括预算、人员配置,以及为保护所选模型并实现规模扩展而需要的应用服务。

分享

关于作者

Lori Mac Vittie
Lori Mac Vittie杰出工程师兼首席技术布道师 | F5

Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师,在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构,还是探索可扩展系统的极限,她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前,她曾担任技术编辑,并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位,著述颇丰,出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏,并且对奶酪有着毫不掩饰的鲜明见解。

Lori Mac Vittie 的更多博客文章

相关博客文章

SOAS 2025:目标不一致,结果难出色
F5生态系统 | 2025/05/13

SOAS 2025:目标不一致,结果难出色

AI部署缺乏协调会导致效率低下。了解如何协调安全、自动化和部署策略,充分释放AI潜力。

AI应用的应用交付与安全:驾驭现代AI架构
F5生态系统 | 2024/08/22

AI应用的应用交付与安全:驾驭现代AI架构

了解生成式AI应用和API安全如何塑造现代应用交付与安全。

借助多云网络简化超级云
F5生态系统 | 2023/09/13

借助多云网络简化超级云

超级云不只是一个流行词。它代表着一种简化愿景,以多云网络为起点,支持跨云提供商的混合IT。

2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素
F5生态系统 | 2023/03/15

2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素

多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联,为解决当今混合IT面临的挑战提供支持,因而备受业界关注。

运营演进的必要性
F5生态系统 | 2022/01/11

运营演进的必要性

在数字化成为默认模式的世界中,运维仍然过度依赖人工方式,需要不断演进,才能支持自适应应用。这一演进要求整个IT体系进行重大变革,并具备由AI赋能的自适应能力,以保持可用性、优化性能并保障安全。

多云并非简单使用多个云:让跨云衔接更轻松
F5生态系统 | 2021/10/07

多云并非简单使用多个云:让跨云衔接更轻松

随着企业转向互联云战略,工作负载的管理和保护变得日益复杂。了解F5如何满足市场对多云网络新方法的需求。