从新闻标题来看,OpenAI似乎是生成式AI领域唯一的选择。每次谈到AI都会提及OpenAI,本文也不例外。但市面上还有其他服务,也有其他可用模型。
事实上,企业对生成式AI的采用情况并不像新闻标题所暗示的那样趋同。
我们最新的研究发现,各组织平均运行近3种不同的模型。选择这些模型的原因似乎取决于具体用例。

例如,安全运营用例倾向于采用开源模型并不意外,因为这类模型可以进行私有化训练,无需担心暴露业务流程和企业敏感数据。内容创作也是如此,因为这类用例通常需要与模型共享敏感数据。工作流自动化用例选择Microsoft托管服务同样不足为奇,因为许多组织在本地和Azure环境中都与Microsoft解决方案紧密集成。
随着企业应用场景不断增多,任何单一模型都无法满足其全部技术和业务要求,包括生成式AI应用场景。
由于不同的模型选择意味着不同的部署模式,因此会给应用交付、安全和常规运维带来一些挑战。
新兴AI部署模式
目前出现了三种基本部署模式。其核心区别在于由谁负责推理服务扩展的运营工作。在所有模式中,组织都负责应用交付和安全。

- SaaS托管。在SaaS托管部署模式中,AI应用使用API访问AI托管服务,例如OpenAI ChatGPT。扩展规模的运维责任由提供商承担。
- 云托管。云托管部署模式利用由云提供商托管的AI服务。这些服务仍通过API访问,但既可以由企业专用,也可以共享。AI应用本身也可以部署在公有云或本地环境中。对于专用服务,企业需要负责扩展推理服务。由于大多数组织缺乏大语言模型扩展经验,这可能是一项挑战。对于共享服务,组织将相关责任交由云提供商承担,但在运营过程中必须考虑配额和按令牌计费的成本等因素。
- 自行管理。开源模型最有可能采用自行管理模式部署,既可部署在公有云中,也可部署在本地。可通过API或直接通过应用程序访问模型。在此模式下,组织需要全面负责推理服务的扩展、安全保护和监控。
(如需深入了解这些模式,可阅读Chris Hain的这篇博客)
许多提供商可托管开源模型,以支持SaaS托管模式;还有许多云提供商也提供开源即服务。
OpenAI模型不仅可通过OpenAI以SaaS托管模式使用,还可通过Microsoft以云托管模式使用。Mistral是一种广受欢迎的开源模型,可采用上述三种模式进行部署。因此,我们认为用例是选择模型的主要驱动因素,因为企业可以根据需要灵活组合模型和部署模式。
组织已经感受到技能方面的压力,不仅需要具备训练模型的技能,还需要具备运维和保护模型的技能。因此,对于许多运营专业能力有限的组织而言,根据用例匹配模型是更合理的选择。将资源集中投入因安全或隐私原因而无法采用共享模式部署的用例,最终将取得更好的成效。
警惕运营短视
但要警惕运营视野狭窄带来的风险,这可能导致组织内部形成孤岛。云计算领域已经出现过这种情况,企业生成式AI领域无疑也会重蹈覆辙。不过,如果能意识到按模型割裂运营与安全的风险,组织或许可以避免由此产生的复杂性和风险,并从战略层面选择能够充分利用运营资源、能力和预算的模型与部署模式。
目前仍处于早期阶段。等您读到本文时,很可能已经出现了新的提供商、新模型和新功能。但部署模式总体上不会有太大变化,因此可以更有策略地规划运营工作,包括预算、人员配置,以及为保护所选模型并实现规模扩展而需要的应用服务。
关于作者

Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师,在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构,还是探索可扩展系统的极限,她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前,她曾担任技术编辑,并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位,著述颇丰,出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏,并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联,为解决当今混合IT面临的挑战提供支持,因而备受业界关注。
