过去几个月，F5深入探讨了AI工厂。在本系列文章开篇，我们将AI工厂定义为一项大规模的存储、网络和计算投资，用于满足大规模、高性能的训练和推理需求。归根结底，AI工厂形象地说明了AI模型和服务如何创建、优化和部署。正如传统制造工厂将原材料转化为成品一样，AI工厂用于构建AI应用。
本文将介绍AI应用与现代应用的异同，重点说明其交付和安全需求，并结合F5 AI Reference Architecture探讨这些现代AI应用。
现代应用的演进
为满足敏捷性、可扩展性和提升用户体验的需求，现代应用经历了显著演进。云计算的出现成为这一演进的关键转折点，为高度分布式系统奠定了基础，使其能够高效扩展，并在多个环境中无缝运行。应用现代化是向基于API的系统演进的过程，推动架构向混合云和多云模式发展。
AI应用进一步加深了对API的依赖，并使混合云和多云成为新常态。容器化技术可为软件提供一致且隔离的环境，不受底层基础设施影响，进一步革新了应用部署方式。这些进步不仅对传统的现代应用至关重要，也是AI工厂的支柱。云计算和容器化带来的敏捷性，对于应对AI模型训练和部署所需的密集计算至关重要。
Kubernetes等编排工具对于大规模管理容器化应用至关重要。Kubernetes可自动完成这些应用的部署、扩缩容和管理。在AI工作流中，Kubernetes可协调跨多个系统部署AI工作负载，高效分配资源，并支持AI模型无缝扩缩容。
“从经过验证的安全和交付策略入手，团队可以打下坚实基础，逐步应对AI应用带来的独特挑战。”
这一过程的一个关键环节是MLOps，它旨在应对AI模型开发、训练和投入运营所面临的独特挑战。MLOps支持持续集成和持续交付（CI/CD），确保AI模型得到持续测试、更新和部署。此外，微服务架构将单体系统拆分为规模更小、可独立部署的服务，推动了现代应用开发模式的转变。这种方法可加快CI/CD流程，使软件更新更迅速、更可靠。
安全始终是现代应用演进的基石。随着复杂网络威胁日益增多，现代应用已集成多种高级安全措施，例如Web应用防火墙（WAF）、分布式拒绝服务（DDoS）防护和API安全。必须区分针对网络层和传输层的第3/4层DDoS攻击与针对应用层的第7层DoS攻击。
随着AI不断发展，威胁模型也在演变，尤其是对于通过自然语言处理（NLP）界面访问的大语言模型（LLM）。LLM面临的风险包括《OWASP大语言模型应用十大安全风险》中重点指出的漏洞，例如提示词注入攻击和数据提取威胁，以及针对特定模型的DoS攻击。这些安全技术进步有助于AI应用保持韧性和安全性，并在应对不断演变的威胁时，维护AI驱动型解决方案的完整性和可靠性。
F5 AI参考架构
如果您一直在关注我们的AI工厂系列文章，就会发现我们探讨了API安全、网络分段、流量管理、检索增强生成（RAG）以及数据处理单元（DPU）等主题。接下来，让我们从更宏观的视角，探讨AI工厂如何融入F5 AI Reference Architecture、如何生成AI应用，以及交付和保护这些应用需要满足哪些要求。
F5凭借近30年来帮助客户交付高性能应用的经验，开发了AI参考架构，其中包括7个构建模块（推理、RAG、RAG语料库管理、微调、训练、外部服务集成和开发）以及4种部署类型（AI-SaaS、云托管、自托管和边缘托管）。如需详细了解这些内容，请访问我们介绍AI工厂定义的博客。AI应用是现代应用中较为前沿的形态，通过API连接且高度分布式。该参考架构旨在应对交付AI应用所面临的关键性能、运维和安全挑战。
AI工厂最常见的构建模块包括训练和推理，但要打造功能完备的AI应用，每个构建模块都不可或缺。一些组织可能会构建AI工厂，以处理训练或推理所需的功能。另一些组织则可能依赖第三方，使用模型训练服务或由其提供推理基础设施。
AI应用本质上是分布式的，可能运行在分布式Kubernetes容器平台上。这正是现代应用的定义，也是“AI应用就是现代应用中更前沿的形态”这一说法的由来。但这对构建AI工厂的企业意味着什么？AI应用需要与当今现代应用相同的交付和安全服务，例如Kubernetes入站、多租户出站、基于DNS的流量管理、韧性和可观测性。在安全方面，则需要DDoS防护、Web应用和API防护以及优化技术。
我们有意将重点放在AI应用与现代应用共有的交付和安全功能上，而不是只关注AI特有的安全问题，这或许令人意外。AI应用确实会带来独特风险，但人们往往会为了采用新的创新功能，而忽视应用安全与交付的基础工作。组织可以优先解决共有的安全与交付需求，也就是我们所说的“容易实现的目标”，利用现有的应用安全专业知识立即加以改进。尽管AI应用可能涉及新组件，但仍高度依赖Web和API交互，而这些完全在现有网络运维（NetOps）和安全运维（SecOps）团队的能力范围内。团队可以从经过验证的安全与交付策略入手，打下坚实基础，再逐步应对AI应用带来的独特挑战。
F5 AI Reference Architecture不仅重点关注AI工厂的产出，还关注AI应用在助力组织实现业务目标时面临的挑战和风险。为此，我们采用了两份相辅相成的十大风险与挑战清单：OWASP LLM应用十大风险和F5应用交付十大挑战。我们对各个构建模块的每个组件及其互连关系进行了映射，并标明OWASP LLM十大风险和F5应用交付十大挑战分别适用于哪些部分。以下以AI推理为例。
F5 AI参考架构重点展示了推理构建块，并叠加显示F5应用交付十大风险和OWASP大语言模型十大风险。
AI应用中的每个组件和互连点都能受益于专为现代应用设计且已得到广泛验证的交付与安全防护。但这并不意味着仅凭这些常规防护措施就足以保护AI应用。以这些经过验证的交付与安全解决方案为基础，组织可以显著改善AI应用的交付与安全态势。在这一坚实基础上，团队可以逐步培养专业技能，并采用必要的高级工具，应对AI应用带来的独特挑战与风险。
目前，F5 AI Reference Architecture已提供预览版。从下月下旬开始，客户将有机会在F5重要的应用安全与交付大会AppWorld上通过交互式体验探索完整的AI Reference Architecture。
F5为AI工厂和现代应用提供支持
F5是应用交付和安全领域的领先企业。诸如F5 BIG-IP之类的解决方案可提供负载均衡、流量管理和安全等关键服务。这些通常用于传统应用的能力，对AI应用同样至关重要，有助于实现高水平的可靠性、性能和保护。
对于构建AI工厂的企业，AI工厂需要具备企业在应用交付和安全方面所依赖的F5能力。F5 BIG-IP Local Traffic Manager与F5专用硬件rSeries和VELOS配合使用，可为训练和微调实现高性能数据摄取，并保护AI应用免受严峻安全威胁。F5 Distributed Cloud Services支持安全的多云网络连接，并为Web应用和API提供保护。近期发布的F5 部署在NVIDIA BlueField-3 DPU上的BIG-IP Next for Kubernetes可将大规模AI基础设施的流量管理和安全处理从CPU卸载到DPU，从而提高AI应用的效率、控制力和性能。
如需进一步了解F5如何保护AI工厂并支持其扩展，联系您的F5客户团队。F5对AI的关注不止于此，欢迎了解F5如何在各种环境中保护和交付AI应用。
想进一步了解AI工厂？欢迎阅读AI工厂博客系列中的其他文章：
- 什么是AI工厂？›
- 面向AI工厂的检索增强生成（RAG）›
- 优化AI工厂数据摄取的流量管理 ›
- 优化边缘数据源与AI工厂的连接 ›
- 多云可扩展性和灵活性为AI工厂提供支持 ›
- NVIDIA BlueField DPU 对 AI 工厂的强大作用与意义 ›
- AI工厂的API保护：AI安全的第一步 ›
- 网络分段对AI工厂的重要性 ›
关于作者
Paul Pindell是F5首席架构师，负责技术联盟工作，并统筹F5产品组合的技术合作伙伴关系。自2019年以来，他还在公司战略计划中发挥了关键作用，包括协助启动F5首个创新项目。Paul曾领导F5的AI战略专项团队，重点明确F5现有产品如何帮助保护和交付AI应用。此后，他协助制定了F5 AI参考架构，概述支持AI应用交付与安全所需的核心构建模块、挑战、风险和合作伙伴解决方案。Paul经常在行业活动中发表主题演讲和分会场演讲，包括OPI Summit、OCP Global Summit、Intel InnovatiON、Open Source Summit、Red Hat Tech Exchange，以及在美国和欧洲、中东及非洲地区举办的多届VMworld大会。他还是多个开源项目的创始人和维护者，担任Open Programmable Infrastructure Project外联委员会主席，并曾负责Symantec防病毒响应数据中心和安全软件测试实验室的数据中心运营。
Paul Pindell 的更多博客文章
Hunter Smit是F5解决方案与战略产品营销高级经理。他负责F5产品组合的解决方案营销工作，涵盖AI基础设施和应用安全，并推动F5进军新兴的AI数据交付市场。Hunter是Whitworth University商学院顾问委员会成员，并曾担任产品营销兼职讲师。他拥有Whitworth University工商管理硕士学位和管理学工商管理学士学位。
Hunter Smit 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。