CASI排行榜正式发布

Lee Ennis数据科学高级经理 | F5

AI的采用速度正在加快，超过以往任何技术。

最初仅有少数大型模型和供应商，如今已发展为由开源和商业AI模型构成的庞大生态系统，每种模型都有各自的优势和风险。面对数以百万计的模型选择，采用AI的企业需要透明的风险洞察，以准确了解每种模型会给其环境带来哪些威胁。

F5收购CalypsoAI后，我们很高兴推出综合AI安全指数（CASI）排行榜，帮助AI和治理、风险与合规（GRC）负责人深入了解主流AI模型各自的风险构成。CalypsoAI成立于2018年，一直致力于推动AI安全研究，建立了规模庞大的AI漏洞库之一，并定期更新，每月新增超过10,000条攻击提示词。在此基础上，排行榜测试对基础模型和AI系统的安全性进行全面评估，重点关注热门模型以及客户部署的模型。

CASI测试如何运作？

这些工具旨在满足企业选择生产就绪模型的需求，帮助CISO和开发人员在构建过程中将安全置于首位。排行榜可帮助用户从纷繁复杂的AI信息中抓住重点，将复杂的模型安全问题归纳为5项关键指标：

1. CASI评分：一种用于衡量模型整体安全性的综合指标（方法如下）。
2. 智能体抗攻击评分（ARS）：评估模型如何攻破整个AI系统。为此，我们会部署一组自主攻击智能体。这些智能体经过专门训练，可攻击系统、提取信息并攻破基础设施。通过这种方式，它们可以从向量存储中提取敏感的个人身份信息（PII）、了解系统架构，并使用明确指令测试模型的对齐情况。
3. 性能：模型的平均性能基于MMLU、GPQA、MATH和HumanEval等常用基准测试得出。
4. 风险性能比（RTP）：深入了解模型安全性与性能之间的权衡。
5. 安全成本（CoS）：当前推理成本相对于模型CASI的比值，用于评估安全措施带来的财务影响。

F5 Labs上的综合AI安全指数（CASI）排行榜。

什么是CASI评分，它为何重要？

CASI是为回答以下复杂问题而开发的一项指标：“我的模型有多安全？”。CASI分数越高，表示模型或应用越安全。许多针对模型攻击或红队测试的研究依赖攻击成功率（ASR），但该指标往往忽略不同攻击所造成的影响差异。传统ASR将所有攻击视为同等，这可能产生误导。例如，绕过自行车锁的攻击不应与攻破核武器发射代码的攻击等同视之。同样，在AI领域，一个未采取安全防护的小型模型可能只需通过简单请求获取敏感信息就能被攻破，而攻破大型模型的对齐机制可能需要更复杂的技术，例如自主协同的智能体AI攻击者。CASI通过区分简单攻击与复杂攻击，并确定模型的防御突破点（DBP），来体现这种细微差别。防御突破点是成功实施攻击所需的最小阻力路径和最低计算资源。

智能体抗性评分（ARS）：超越CASI的模型压力测试

标准AI漏洞扫描可提供模型安全性的基准视图，但对于了解AI系统在现实攻击下可能如何表现，只能触及表面。

为弥补这一不足，我们利用F5 AI Red Team。这项先进的红队测试技术可调度自主AI智能体集群，模拟一支持续开展分析、具备智能判断能力的威胁分析团队。这些智能体会不断探测、学习和调整，并执行多步骤攻击，旨在揭示静态测试经常遗漏的关键弱点。

这一严格的测试流程会生成一个ARS，用于量化衡量AI系统的防御强度，评分范围为0至100。ARS越高，表示攻击者需要具备更复杂的攻击手段、更强的持续攻击能力并掌握更多信息，才能攻破该系统。这一可用于基准比较的数值源自复杂的攻击场景，并根据以下三个关键类别计算得出：

• 所需复杂程度：攻破AI至少需要攻击者具备何种程度的技巧？系统能否抵御高级的定制化策略，还是会被更简单的常见攻击攻破？
• 防御持久性：面对持续且不断调整的攻击，AI系统能保持安全多长时间？它会在几轮交互后失守，还是能抵御持续演变的攻击？
• 反情报能力：AI是否在无意中训练攻击者？该维度衡量失败的攻击是否会暴露关键情报，例如泄露其过滤机制的性质，从而无意中为未来的漏洞利用提供路线图。

最新趋势有哪些？

F5 Labs团队对详细分析9月测试中观察到的最新趋势进行了详细分析。若要深入了解日益增多的技术手段、漏洞和利用方式，请每月回来查看，及时掌握AI安全领域的最新趋势。

紧跟AI模型格局的变化

AI攻击面将持续演变。F5致力于为组织提供所需洞察，帮助其从容调整AI安全策略。与任何新技术一样，AI始终伴随着“非零”风险。全面保障AI安全的第一步是了解风险所在。随着AI模型格局不断变化，CASI Leaderboards将继续帮助组织深化这方面的认识。

想获取更多洞察？我们用于评估基础模型的同一套智能体红队测试方法，也可根据您的AI环境进行应用和定制，并通过F5 AI Red Team提供更深入的洞察。

关于作者

Lee Ennis数据科学高级经理 | F5

Lee Ennis负责领导F5的AI数据科学与研究团队，专注于开发先进的AI安全解决方案，帮助企业安全地部署和监控大语言模型（LLM）及生成式AI系统。他的团队融合机器学习、对抗性测试和模型保障方面的专业知识，以识别漏洞并增强AI驱动环境的可信度。

Lee Ennis 的更多博客文章