缺乏保障与治理：如何全面了解AI风险

Oliver Gould高级软件开发工程师 | F5

保险公司正就AI风险发出明确警示

整个保险行业都在传递一个明确的信息：AI带来的风险广泛而迫在眉睫，并且极难量化。当负责建立负债模型的精算师和风险专家认定某项风险波动性过高、无法承保时，各组织应当予以重视。

近期提交的保单文件（例如由Hunton Andrews Kurth LLP分享的文件）以及市场动向表明，许多保险公司正通过在标准责任险中广泛排除AI相关索赔来应对AI风险。在某些情况下，董事及高级管理人员责任险、错误与疏漏责任险以及受托人责任险中的除外条款会完全排除因“任何实际或被指称的人工智能使用、部署或开发”而产生的保险责任。

需求确实存在，但保险保障范围受限

保险公司正在更新保单，加入适用范围广泛的AI除外责任条款，使其在决定是否承保时拥有很大的裁量空间。AI相关除外责任的判定标准可能非常宽泛，任何包含AI的工作流都可能符合该标准。

原因很简单：保险公司认为AI是一个不可预测的黑箱。如果无法充分建立模型来预测其行为，就无法承保由此产生的后果。因此，为应对这种程度的不确定性，保险公司也会设置同样宽泛且笼统的除外责任。

对企业而言，这带来了切实的运营转变：AI事件的责任正重新由企业内部承担。

企业面临复杂且风险重重的局面

保险公司正在应对的核心问题，也是许多组织面临的共同薄弱环节：企业目前还缺乏可靠的方法来观察、量化和控制生产环境中的AI行为。影子AI的使用、不受控的工作流以及AI智能体的自主操作都会加剧这种不确定性。例如：

• 员工在IT政策范围之外采用的影子AI，使监控和管控变得极其困难。
• MCP（模型上下文协议）服务器的使用会将动态工作流注入AI智能体，超出传统API的控制范围。
• 智能体式操作序列，即AI在收到人工提示后执行多个步骤，从而增加未知因素并使风险叠加。

保险公司认为，这些模式会导致难以明确界定的损失，因而无法可靠地将相关风险计入保险定价。因此，企业可能因使用AI而面临更高的保费、更窄的承保范围，甚至被明确排除在承保范围之外。

如果组织希望继续获得保险保障并控制风险敞口，就不能仅依赖传统安全工具，也不能寄希望于AI使用过程自行保持规范。当前的AI生态系统并非以责任可追溯为设计目标：

• 传统DLP工具可能会漏检嵌入提示词而非文件中的敏感内容。
• CASB可以限制对应用的访问，但无法解读AI行为。
• IAM可管理身份，但无法管理AI决策逻辑或智能体操作。
• MCP工作流的运行不受既有安全启发式规则约束。

这些缺口导致许多组织无法察觉保险公司试图规避的风险。

AI控制平面如何发挥作用

这正是F5 Workforce AI Security（原名SurepathAI）发挥作用之处。

F5 Workforce AI Security（原名SurepathAI）提供几乎所有企业AI技术栈都欠缺的可见性和控制能力，帮助企业向保险公司和内部利益相关方证明其切实开展了风险管理。发生事件时，这些能力可为组织提供有效响应和补救所需的证据和背景信息：

• 详细的审计日志可跟踪管理操作、配置变更和敏感信息访问。
• 请求日志可显示谁在何时以何种方式使用了AI，从而形成可验证的记录，说明AI如何参与工作流。
• 违规数据通过清晰的标签和上下文，准确定位敏感信息暴露、策略违规和风险事件。
• 集成式遥测数据导出功能可将增强日志自动传送至SIEM和分析工具，无需在事件响应过程中手动收集数据。
• MCP策略控制可对工具、模型和服务器交互提供全面治理和精细化访问控制。
• 这意味着，组织不再只是寄希望于自身安全，而是能够切实证明其对AI行为实施了可观察、可执行、可审计的控制。

保险公司正积极应对迅速扩大的风险面，而目前无论是保险公司还是大多数组织，都无法对其进行可靠衡量。要传达的信息很明确：如果依赖AI，就需要内置与AI驱动型工作流的规模和速度相匹配的控制措施和可见性。

F5 Workforce AI Security（原名SurepathAI）为组织提供保险公司所期望、现代AI应用所需的监督、策略执行和事件响应能力。

关于作者

Oliver Gould高级软件开发工程师 | F5

Oliver Gould 的更多博客文章