AI应用交付十大挑战：缺乏安全保障且不符合法规要求

Lori Mac Vittie杰出工程师兼首席技术布道师 | F5

我们最初发布的相关内容明确指出：安全与法规合规并非次要问题，而是会直接影响应用性能、可用性、可扩展性和运营效率。不满足法规要求可能带来法律风险、增加运营负担，在某些情况下甚至会导致服务完全中断。原有指南还重点介绍了加密、符合FIPS标准的设备和自动化合规检查等常见缓解措施。

这一基础仍然适用。

AI带来的变化在于，合规需要在哪里落实，以及需要多频繁地执行。

传统应用大多遵循预定义的路径。它们处理请求、访问已知系统并返回预期输出。AI应用则增加了一个概率决策层，用于解读提示、综合生成响应、检索外部上下文，并且越来越多地调用工具或触发操作。这意味着，合规不再只是保护数据存储和传输路径，还需要管控运行时行为、模型访问、生成的输出，以及上下文在系统中的流动。

因此，原有问题依然存在，但问题范围进一步扩大，控制措施也必须更贴近推理发生的位置。

缺乏安全保障和监管合规的后果

对性能的影响

在传统应用交付中，合规性通常会通过已知的额外开销影响性能。加密会增加处理成本，检查会增加延迟。数据主权规则可能要求流量仅在特定司法管辖区内传输，这会增加路由复杂性并降低效率。AI仍面临这些压力，同时还带来一项新挑战：现在必须在处理请求的过程中作出合规决策。

AI系统可能需要确定：是否允许特定模型处理特定提示词；用于检索的数据能否依法跨越地区边界；是否必须在推理前对敏感上下文进行脱敏处理；以及是否必须在返回生成的输出前对其进行过滤。这些操作都会产生开销。每项检查都会增加处理时间、复杂性，或同时增加两者。

这种差异虽细微，却很重要。过去，合规性往往影响架构设计。在AI系统中，合规性正日益影响运行时执行。您不仅要保护通往应用的路径，还要评估应用在推理过程中执行的操作。

对可用性的影响

可用性始终是应用交付的重要一环。完善的安全实践和符合FIPS要求的基础设施有助于提高可用性，并降低因合规问题导致停机或服务中断的风险。同样的原则也适用于AI，但其故障模式更加多样。

在传统应用中，不合规可能导致交易受阻、被迫实施区域隔离，或暂时中止服务，直至控制措施缺口得到修复。在AI系统中，即使平台本身仍在运行，可用性也可能受损。模型可能仍可访问，API可能运行正常，基础设施也可能运转顺畅，但如果策略阻止请求得到满足，服务实际上仍可能变得不可用。

出现这种情况可能有多种原因。所需地区可能没有符合合规要求的模型。检索到的文档集可能包含受监管数据，不能向特定用户披露，也不能在特定司法管辖区披露。输出内容可能未通过策略检查，因此需要禁止提供。智能体可能因某项预定操作违反治理规则而无法完成工作流。

因此，AI的可用性不再只是正常运行时间的问题，还取决于策略是否允许执行。系统在技术上可能处于在线状态，但在实际运行中却无法回答、执行操作或完成任务。这是一种截然不同的中断情形，传统的可用性理念无法充分涵盖。

对运营效率的影响

自动化合规实践可减少人工干预，帮助IT团队专注于更高价值的工作，而不必持续调整以满足监管要求。这一逻辑依然成立。问题在于，AI系统带来了更多需要治理的情形。

传统合规计划以相对稳定的环境为前提。企业先定义数据处理规则、访问控制、检查点和审计程序，再验证系统是否符合这些要求。这项工作并不简单，但范围有限。

AI正在打破这些边界。输出是动态的，每次运行的操作路径都可能不同。智能体可以串联请求、调用工具，并随时间推移积累上下文。这意味着团队不能再仅依赖静态验证，而需要运行时监督、持续的策略评估，以及更清晰的行为可见性。

这会增加运营负担，除非交付层和安全层在设计上能够承载这些负担。否则，组织将陷入持续循环：不断调整策略、调查异常输出，并试图解释为何系统明明遵循了指令，产生的结果却仍然违背业务或监管意图。这不是审计问题，而是控制平面问题。

降低安全与合规风险的实践建议

加密和符合FIPS标准的设备

此部分保持不变。加密对于保护传输中和静态的敏感数据仍然至关重要；原版ADC08明确将加密和符合FIPS标准的设备列为保护受监管数据并支持弹性交付的基础实践。

变化在于，人们认识到AI会在输入与输出之间的处理层引入风险。

换言之，即使传输已加密且存储符合合规要求，仍需确保模型能够妥善处理接收的上下文，并对其输出实施治理。即使底层加密机制毫无缺陷，提示词注入、敏感上下文暴露和输出处理不当等问题仍可能发生。坚实的基础依然至关重要，因为缺少这些基础，其他一切都无从谈起。只是这些基础已无法覆盖整个攻击面或合规范围。

因此，原有控制措施仍然必不可少，只是仅靠这些措施已不足以应对当前需求。

自动化合规检查

我们最初的指南建议采用自动化合规检查和实时监控，以减少人工审计、持续一致地执行策略，并快速识别潜在违规行为。随着AI的应用，这项指南变得更加重要，但也需要与时俱进。

对于传统应用，自动化合规通常包括检查配置、验证数据驻留情况、监控访问模式，以及在出现配置偏移时发出警报。对于AI系统，自动化合规还必须包括检查提示词、验证模型选择、监控检索来源、检查输出，并在某些情况下持续评估操作序列。

这才是真正的转变。合规自动化从静态验证转向运行时强制执行。

目标不再只是确认环境配置正确，而是确保系统在运行期间始终在可接受的边界内运行。这需要在交付路径中嵌入更多上下文信息、更高的可见性和更多策略逻辑。这也意味着应用交付与安全功能开始融合，因为过去所谓的“合规”如今往往已成为请求处理本身的一部分。

结语

安全性和监管合规性不足仍在威胁性能、可用性、可扩展性和运营效率。常用的控制措施、加密技术、符合FIPS要求的基础设施以及自动化合规工具，仍是降低此类风险的基础。AI改变的是问题所在。

在传统系统中，合规要求主要围绕应用实施。在AI系统中，合规必须深入决策过程本身，涵盖模型接收的数据、生成的输出、尝试执行的操作，以及这些行为是否始终符合监管要求和组织规范。

始终不变的是，仍需采用严谨的安全措施和稳健的交付架构。

变化在于，仅有正常运行时间已不足以满足需求，仅靠加密也不够，仅执行静态策略检查同样不够。

AI让风险进一步上升，因为系统不再只是处理请求，还会参与决策。一旦如此，合规性就成为运行时必须关注的问题。

详细了解全球组织面临的十大应用交付挑战。

关于作者

Lori Mac Vittie杰出工程师兼首席技术布道师 | F5

Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。

Lori Mac Vittie 的更多博客文章