全方位防范恶意代码

F5 Newsroom Staff

尽管大型语言模型（LLM）已为企业带来诸多优势，提升了效率和生产力，但任何组织都不能忽视其部署所带来的固有威胁。随着系统中的工具数量增加，组织的攻击面更容易受到攻击。

隐藏的恶意代码是指嵌入响应中、可能危害用户设备、数据或网络的任何代码。这是一类严重且日益加剧的威胁。此类代码可作为窃取敏感信息、安装恶意软件、劫持用户设备或身份，或发起拒绝服务（DoS）攻击及其他攻击的第一步。由于能够伪装成合法内容，其危险性进一步增加。与LLM相关的恶意代码传播途径包括：

• 利用模型中的漏洞，将恶意代码注入响应。
• 发起社会工程攻击，向用户发送精心构造、看似合法的响应，但其中包含指向传播恶意代码的网站或文件的链接。
• 利用已遭入侵的API或第三方服务，将恶意代码注入响应中。

在上述每种场景中，即使员工非常熟悉组织的安全意识计划规程，也无法得知自己与LLM的日常常规交互会让恶意软件进入组织系统。但恶意代码一旦进入网络或其他专用系统，就可能通过多种方式造成严重破坏，例如：

• 数据窃取或篡改：恶意代码可能被设计用于窃取或篡改敏感数据，例如个人财务信息、客户信息或知识产权（IP）。数据一旦被窃取，攻击者便可以：
  • 利用窃取的数据实施身份盗用或金融欺诈，或扰乱市场。
  • 在暗网上出售数据或知识产权。
  • 将其发布到互联网上，供所有人查看。
  • 以上全部。
• 服务中断：恶意代码可能导致企业系统发生故障，进而造成服务中断。这可能延误客户或供应商交互的处理、减缓决策速度、降低效率并损害商业机会，最终可能给组织带来重大经济损失。
• 声誉受损：通过LLM成功实施的恶意代码攻击可能损害公司声誉，导致客户、股东、监管机构、合作伙伴及其他利益相关方失去信任，并造成长期财务影响。

AI和网络安全专业人员深知，抵御数字入侵的第一道防线是稳固且维护良好的边界，第二道防线是完善的员工教育计划。在整个企业中部署后，F5 AI Guardrails的轻量级、模型无关型信任层平台可弥合这两类解决方案之间的差距，无需因安装或训练而停机，即可安全使用生成式AI（GenAI）解决方案。全面的可观测性让安全团队能够实时了解各模型的运行情况，从而抵御并防范内外部攻击。基于策略的访问控制支持管理员在群组和个人层面限制模型访问和使用，确保成本可监控、可控制。速率限制可防范针对模型的DoS攻击。

F5 AI Guardrails还通过一套全面的可定制扫描器提供精细化保护，可检查：

• 检查每条LLM提示中是否包含隐私、机密或其他可能被利用的内容，并防止此类内容离开系统。
• 检查每个响应中是否包含恶意代码及其他可疑内容，并阻止其进入系统。

系统会记录每次交互的所有详细信息，包括提示词、响应、用户、日期和时间，以及各项防护机制的结果，从而在安全的私有环境中，对活动、内容和成本进行全面审计和归因。

F5 AI Guardrails支持同步实施网络安全和AI安全实践，为组织提供可靠、安全的选择，使其能够照常开展运营，同时保护人员、资产和流程免受AI驱动的风险。

点击 此处，预约我们的GenAI安全与赋能平台演示。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章