借助F5和AWS构建、保护并优化AI应用

F5生态系统 | 2024年9月09日

随着企业日益将人工智能(AI)融入运营,对AI驱动型应用的需求大幅增长。目前,75%的组织表示正在实施AI辅助功能。1但在急于引入智能功能的过程中,企业也面临安全风险和运营挑战,而这通常是由于AI战略不完善所致。

下面来了解如何简化AI应用的构建、安全防护和优化,充分发挥投资价值。

构建AI驱动的应用

AI应用是复杂度更高的现代应用。它们由推理引擎、数据源和机器学习模型等多个组件构成,通常采用Kubernetes架构,并通过API连接。

您的开发人员可能非常熟悉如何构建现代应用,但所需的AI模型可能会带来难题。构建和训练AI模型通常需要专业技能,而并非每个组织都具备这些技能。为此,云AI开发者服务(CAIDS)这一新兴市场应运而生。借助这些服务,开发人员可以通过API、SDK或应用等熟悉的方式使用AI模型,从而更轻松地将智能功能嵌入应用。

AWS提供多种云端AI开发者服务(CAIDS),可简化智能应用的开发流程。其中包括用于构建和训练AI模型的服务,以及多种可供选择的预构建模型。此外,AWS还提供构建AI应用所需的基础设施,并提供无服务器计算、托管式Kubernetes和可扩展计算能力等选项。通过与可靠的基础设施集成,这些服务可帮助开发者更快地构建AI模型和应用。

保护应用和AI模型

现在,构建AI驱动的应用变得更轻松,但如何保障这些应用的安全?

在与AI相关的问题中,模型安全的重要性仅次于成本。2 应用可以访问AI模型及其敏感数据,因此容易成为攻击者的目标。模型投毒也是一项隐患,可能导致错误输出或影响性能。除了威胁行为者,还必须防止意外的数据泄露。例如,用户可能会向应用提供自己的个人身份信息(PII),而您并不希望这些信息最终进入模型。

F5安全解决方案可在上述各种场景中保护AI应用和模型。作为AWS合作伙伴,F5解决方案可轻松添加到AWS环境,以及AI应用或模型所在的其他任何环境中。

F5还可保护连接应用、AI模型和数据源的API。通过保护这些连接,可确保只有授权流量才能访问模型或数据源,防止数据外泄和滥用。

还必须监控输入和输出,以确保AI应用按预期运行。监测输入可防止提示词注入攻击,或避免合法用户意外泄露个人身份信息(PII)。检查输出可防止AI应用提供可能损害贵组织声誉的偏见性或幻觉性回答。

优化性能和成本

平衡AI应用的性能与成本并非易事。一方面,这些应用需要大量计算资源才能有效运行;另一方面,计算资源的相关成本可能迅速攀升。要尽可能提升用户体验,还需要将应用部署在更靠近用户的位置,这意味着基础设施可能需要包含边缘站点。

AWS提供支持AI工作负载所需的可扩展基础设施,F5负载均衡解决方案则提供智能流量路由,有助于降低延迟并缩短响应时间。F5还可以连接分布在多个云或边缘站点的应用或微服务,让应用更轻松地靠近用户,同时不牺牲防护能力。这不仅可以提升用户体验,还能确保高效利用资源,帮助控制成本。

实现AI目标

随着AI在企业中发挥日益关键的作用,管理成本、降低风险并实现卓越性能的能力,对于保持竞争优势至关重要。F5和AWS提供实现这些目标所需的工具和服务,帮助组织充分发挥AI投资的价值。

了解详情,请访问f5.com/aws。

来源

1. F5,《2024年AI应用战略现状报告》,2024年6月

2. 同上。

分享

关于作者

相关博客文章

F5纪念2021年世界艾滋病日
F5生态系统 | 2021/12/01

F5纪念2021年世界艾滋病日

值此世界艾滋病日,F5郑重承诺,将与员工、客户、社区和合作伙伴共同努力,消除社会对HIV感染者仍然存在的污名与偏见。

Thingbot正转变为攻击平台
F5生态系统 | 2018/11/29

Thingbot正转变为攻击平台

Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。

借助F5全新Quick Start,在AWS上快速开展业务
F5生态系统 | 2018/11/20

借助F5全新Quick Start,在AWS上快速开展业务

在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。

为什么声明式模型对NetOps自动化至关重要?
F5生态系统 | 2018/04/30

为什么声明式模型对NetOps自动化至关重要?

为什么声明式模型对NetOps自动化至关重要?阅读F5博客,了解基础设施即代码如何简化网络扩展。

开源聚焦:F5基础设施即代码与多云可管理性
F5生态系统 | 2017/11/16

开源聚焦:F5基础设施即代码与多云可管理性

开源聚焦:基础设施即代码与多云。阅读博客,了解模板和Terraform如何简化F5应用服务的部署。

破解IT“无解困局”的答案:私有云
F5生态系统 | 2016/09/12

破解IT“无解困局”的答案:私有云

破解IT“无解困局”的答案:私有云。阅读F5博客,了解本地部署的敏捷性如何化解安全与速度难以兼顾的问题。