守护未来：CalypsoAI如何与OWASP大语言模型十大风险保持一致

Louise Scully高级经理，产品营销管理，AI安全与威胁情报 | F5

OWASP于2025年发布大语言模型十大安全风险（LLM）时，为行业提供了亟需的安全基准。但如果不采取行动，基准就毫无意义。

CalypsoAI可应对OWASP十大风险中的80%，并优先处理现实环境中最紧迫的风险。该平台结合实时运行时保护与深度对抗性测试，广泛覆盖当前关键的LLM风险。从提示词注入和数据泄露，到过度代理和无限制消耗，我们针对企业实际使用AI的方式构建了一个推理边界。

其他供应商往往浅尝辄止，或仅保护技术栈的某一部分，而CalypsoAI则更进一步，在红队测试和防御层面全面映射OWASP风险。这并非为了完成合规检查，而是为安全团队提供所需的可见性、控制和策略执行能力，帮助其大规模保护生成式AI系统。

以下是我们如何应对OWASP列出的主要风险，并提供更进一步的防护。

LLM01：提示词注入

已阻止、已测试并已缓解。

CalypsoAI使用超过20,000条评估提示词，对提示词注入漏洞进行广泛测试。该平台提供内置防护，可防止未经授权的提示词操纵。

LLM02：敏感信息泄露

敏感数据始终保持私密。

CalypsoAI可识别可能导致敏感数据泄露的漏洞。该平台内置开箱即用（OOTB）的个人身份信息（PII）扫描器，并支持通过关键字、正则表达式和生成式AI模型进行自定义扫描。

LLM03：供应链

我们帮助降低风险，让您无需为此费心。

该平台通过红队测试和持续监控，缓解模型过时、预训练模型存在漏洞以及模型来源不可靠等风险。

LLM04：数据和模型投毒

我们保护推理过程，即使上游出现错误也不例外。

虽然这主要是训练阶段的风险，但CalypsoAI有助于识别训练不充分或遭投毒的模型，并在推理阶段为检索增强生成（RAG）应用提供保护。

LLM05：输出处理不当

设计之初即注重交互安全。
CalypsoAI可检测并阻止LLM响应中的XSS和代码注入尝试，确保交互更加安全。

LLM06：过度代理

自主决策，责任明确。

该平台通过扫描输入和输出，为智能体提供内联保护，帮助降低与多智能体协作平台（MCP）相关的风险。

LLM07：系统提示词泄露

我们帮助保障您的系统安全。

CalypsoAI内置了防止系统提示词泄露的保护机制，并计划通过路线图中的其他功能进一步增强防护能力。

LLM08：向量和嵌入弱点

不适用，这是设计使然。

CalypsoAI在推理层运行，并不直接应对向量存储漏洞。

LLM09：错误信息

不适用，在推理上游处理。

CalypsoAI目前不提供幻觉检测，因为OpenAI等上游提供商正在模型层面解决这一问题。我们仍专注于保障推理安全，以确保AI输出安全可靠。

LLM10：无界消耗

效率与执行力兼得。

CalypsoAI可防止API过度消耗和滥用，确保高效、安全地使用LLM资源。

专为现实场景中的AI打造

这不只是为了满足合规要求。CalypsoAI专为保护生产环境中的AI而打造，因为这里的风险真实存在，后果不容忽视。从针对30,000多种智能体攻击开展红队测试，到提供实时运行时保护，我们的平台能够适应新出现的威胁，避免其影响业务。

关于作者

Louise Scully高级经理，产品营销管理，AI安全与威胁情报 | F5

Louise Scully现任F5 AI安全与威胁情报产品营销高级经理。她长期深耕AI安全和企业技术领域，职业经历涵盖产品营销、产品管理、市场进入策略、传播、思想领导力和品类发展。加入F5之前，Louise曾负责CalypsoAI和Artomatix的营销工作，助力AI技术和研究成果走向市场。

Louise Scully 的更多博客文章