AI智能体并非只是炒作,它们已投入生产,并正迎来快速增长。
F5工程副总裁James White提出了一个发人深省的观点:要理解智能体,不应从软件版本的角度思考,而应从人类成长的角度来看。智能体不是v1.0,而是一个数字实体,既有创造价值的潜力,也需要培养。
智能体的成熟度曲线
与人类一样,智能体在早期阶段需要持续关注。它们就像尚无法自行进食的新生儿,潜力大于实际用途。但婴儿会学会自己进食,并迅速成长为儿童和成人。同样,随着模型、工具和安全基础设施不断完善,智能体也开始发挥切实作用。
如今,我们正处于孩子开始“修剪草坪”的阶段:他们开始承担家务,让身边的大人更轻松。智能体现在可以独立处理明确的任务,无论是生成研究内容、使用GitHub Copilot编写代码,还是通过Google的新型智能体界面在线购物。随着知识、专业技能和能力不断提升,智能体也在逐步成长和成熟。
迈入非人类资源时代
这一演变正推动企业安全理念发生转变。现有企业安全体系旨在保护IT系统和服务免受人为活动的影响。与人类员工类似,智能体在数字环境中运行时,也需要特定的访问控制和权限。
这种转变将呈现怎样的形态?可以这样理解:我们设立人力资源部门来管理人类员工。智能体可被视为非人力资源(NHR),能够在全球各地的组织中完成切实且有价值的工作。
当前的智能体在经验和产出方面相当于应届毕业生,但很快将提升至中级和高级岗位的水平,并承担相应职责。对非人力资源(NHR)的要求也会随之提高:成本将增加,同时需要更高的访问权限和更完善的安全保障。
这意味着企业将需要:
- 代理访问和权限策略
- 智能体部署的成本跟踪和投资回报率框架
- 针对智能体行为和横向移动风险的安全标准
为什么安全也必须与时俱进
问题在于,我们不能像对待传统软件那样对待这些智能体。它们具备自主性和行动能力,并且可能相互协作,因此会带来一种全新的攻击面。
以人的成长过程为例,我们不会用气泡膜把婴儿裹得严严实实,让他们无法活动。在工作场所,也不会处处限制或监视年轻员工。相反,我们会设定适当的边界,让他们能够安全成长并积累经验。
这正是F5 AI运行时安全解决方案的作用:保护AI应用和智能体。我们不会拖慢智能体,而是像贴身护卫一样,在威胁出现时随时进行拦截。
下一步是什么?
随着AI智能体的自主性、集成度和能力不断提升,它们将不再是抽象的“智能体”,而会真正成为团队的一员。我们对此深有体会,因为我们自行构建智能体,并将其用于生产环境。作为非人力资源,它们承担着有价值的工作。
但与任何其他资源一样,拥有访问权限和执行能力的智能体也需要受到监督和管控,并确保其活动可见。最终脱颖而出的公司,不会是打造出速度最快智能体的公司,而是打造出安全性更高智能体的公司。
F5正在保护这支由非人力资源组成的新型团队。因为没有防护的创新并非进步,而是风险。
相关博客文章

三家企业如何借助AI驱动的WAF改进虚拟补丁和运行时安全
了解三家F5客户如何利用AI驱动的WAF加快虚拟补丁部署、将误报减少50%以上,并更有信心地启用阻断模式。

F5 BIG-IP v21.0增强S3工作流的AI数据交付与摄取能力
使用F5 BIG-IP 21.0版优化S3工作流:通过低接触式配置,为AI数据交付、对象存储和RAG管道提供可扩展的安全解决方案。
Everest Group报告:生成式AI行业应用的当前趋势与未来前景
我们很高兴能为全球知名研究机构Everest Group发布的一份重要新报告作出积极贡献。该报告题为《生成式AI应用:审视横向职能中的实际应用与未来展望》,深入分析了各行业对生成式AI(GenAI)的应用情况。报告指出,IT[……]

