数字化工作场所的AI安全

F5 Newsroom Staff

企业正在整个数字化工作场所部署生成式AI副驾驶和助手，涵盖协作中心和知识管理系统、生产力副驾驶以及员工支持聊天机器人。这些工具有助于提高效率和参与度，但也会扩大企业的攻击面：

• 泄露内部文档、知识产权或员工数据
• 提示词注入操纵工作场所助手泄露受限内容
• 不准确或有害的输出会削弱员工信任
• 缺乏对AI工具在不同部门和地区运行情况的监督

我们的AI运行时安全解决方案可保护数字化工作场景，并通过Red Team进行验证、Guardrails提供保护，以及内置可观测性对AI部署实施治理。

红队测试：在部署前验证工作场所AI

F5 AI Red Team（原名 Inference Red-Team）会在员工依赖AI副驾驶和助手之前，主动对其在各类办公平台（Slack、Teams、知识中心、内联网）上的表现进行测试。

• 智能体抗攻击能力：多轮对抗模拟可揭示攻击者可能如何诱骗助手泄露机密内容。
• 特征与操作攻击：超过50,000种持续演变的漏洞利用手段，用于测试提示词注入、拒绝服务风险和权限提升尝试。
• 工作场景专项验证：识别协作工具和员工聊天机器人中可能危及安全性或合规性的漏洞。

数字化工作场所负责人的成果：更安全地部署AI助手和Copilot，降低企业整体风险。

Guardrails：实时保护生产力AI

投入使用后，AI Guardrails（原名Inference Defend）可在推理层保护工作场所中的AI交互，同时不会降低工作流速度。

• 防止数据泄露：阻止在AI驱动的查询过程中共享内部文档、源代码或个人身份信息（PII）。
• 阻止对抗性利用：检测并阻止旨在绕过访问控制的提示词注入。
• 灵活控制：安全策略可适应人力资源、IT或其他部门的具体情境，同时保障工作效率。

数字化工作场所领导者可实现的成果：安全、合规的AI助手可赋能员工，同时避免敏感数据泄露。

可观测性：全面洞察数字化工作空间

随着AI助手融入日常工作流程，可见性至关重要，是实现治理与合规的关键。我们的内置可观测性功能可提供覆盖整个企业的监督能力。

• 全局仪表板：集中呈现AI使用情况和安全事件，帮助整个企业实现合规。
• 审计就绪日志：捕获每次交互，支持合规审计和内部调查。
• 策略执行：在工作场所AI的不合规或高风险使用引发声誉或法律问题之前进行标记。

数字化工作场所领导者可实现的成果：对安全采用AI进行可信监督，确保创新步伐不超出治理能力。

面向数字化工作场所的全面AI安全

借助红队测试、Guardrails和可观测性，企业可以获得：

• 数据保护：防止敏感的内部数据和员工数据泄露。
• 运营信心：保护员工日常依赖的AI助手和聊天机器人。
• 合规与治理：简化隐私和工作场所数据法规的遵循流程。
• 员工信任：确保工作场所使用的AI准确、安全，并符合企业政策。

核心结论

我们的AI运行时安全解决方案套件可保护数字化工作场景，确保协作平台、生产力Copilot和员工助手经过验证、受到保护且具备可观测性，帮助企业在不影响安全性或信任的前提下推动内部创新。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章