借助F5防护机制负责任地扩展AI

F5 ADSP | 2025年12月04日

F5近期发布了两款新的AI安全产品：F5 AI Guardrails和F5 AI Red Team。此次发布正值关键时期，行业监管机构正日益加强对使用AI提供消费者服务的审查。

尽管已有一些专门针对AI的法规，例如广为人知的《欧盟人工智能法案》，但许多司法管辖区的监管机构仍在利用现有监管框架，确保企业负责任地使用AI。因此，即使在没有AI专项法规的司法管辖区，企业要在其技术栈中将AI创新投入实际应用，通常仍需承担较重的合规责任。此外，包括大型语言模型（LLM）在内的许多模型都以黑盒方式运行。鉴于企业在公平性、透明度和可解释性方面负有合规义务，使用此类模型也更具挑战性。

F5 AI Guardrails和AI Red Team是F5 Application Delivery and Security Platform (ADSP)的新增功能，可提供强大的合规控制，帮助企业更深入地了解AI模型的输入和输出并建立二者之间的关联，消除偏见，并加强人工监督。

只需点击几下，即可完成上述所有操作，将这些洞察转化为主动防御措施，帮助模型持续符合组织的合规义务，以及负责任且合乎道德地使用AI的内部标准。对于因法律或监管风险因素而暂缓部署AI的企业而言，这是一次突破性进展。

简化任何用例中的AI模型风险管理并降低风险

F5 AI Guardrails的功能有助于组织增强AI治理策略。只要AI会直接影响人们的生活，这些策略就至关重要。例如，金融机构可能希望使用AI处理贷款申请。如果AI拒绝了原本会获人工评估人员批准的贷款申请，这些机构就可能面临风险。然而，棘手之处在于，目前几乎没有合适的工具能够帮助了解模型为何会拒绝贷款。即使在使用前对模型进行了全面测试，缺乏可解释性仍无法通过监管审查，也无法满足组织自身的透明度要求。

“对于因法律或监管风险而暂缓部署AI的企业而言，这是一次突破性进展。”

在初始部署AI模型时，组织需要对模型进行严格测试和验证，确保模型不会泄露敏感信息、重现偏见或做出不公平的决策，从而使公司可能承担法律责任。

F5 AI Red Team可对AI系统开展广泛的战略性测试，包括大规模自动化对抗测试，以识别明显和隐蔽的行为及漏洞，帮助团队全面了解所有风险。这些红队测试功能由一个拥有丰富数据的数据库提供支持，该数据库每月新增超过10,000条攻击提示。企业还可以自行编写测试，确保模型更新后行为保持一致。这有助于团队确保模型按预期运行，并据此调整数据安全、威胁管理和治理策略，以应对不断涌现的风险。

借助F5 AI Guardrails，组织可以关联提示与响应，根据主题为达到特定数量的提示设置警报，并将关键提示上报以供评估和纠正。该解决方案提供AI治理团队所需的人工监督和记录保存工具。

F5 AI Red Team既能从宏观层面呈现模型为何以特定方式运行，也能提供精细视图，帮助解释提示中的哪些特征或词元对得出特定推断的影响最大。仍以金融服务为例，企业可以使用AI Red Team功能，确定贷款申请中的哪些数据对模型推断或结果影响最大，以及模型在决策时最依赖哪些具体数据源。这样，组织将获得更多数据点，用于梳理模型的工作方式、识别权重过高或过低的特征，并为后续重新训练或微调提供反馈。组织还可以快速生成文档，为审计和合规工作提供支持。

消除AI应用障碍，加快合规进程

简单易用是关键差异化优势。这款点击式解决方案无需创建定制的内部工具，并可与F5 ADSP的其他部分协同，提供敏捷的测试、监控和微调能力，不仅限于符合标准。面对监管阻力，组织可以加快推进AI计划以及多个复杂AI模型的部署，同时将消费者隐私和公平性作为自身服务的基石。

需要注意的是，即使在尚未制定明确AI使用法规的环境中，监管机构也在重新解读现有法律框架，使其适用于AI流程。仍以金融服务业为例，监管机构目前正依据最初于1970年通过的《公平信用报告法》（FCRA）评估企业对AI的使用情况。AI Guardrails可帮助组织满足当前要求，同时为应对未来可能出台的新法规做好更充分的准备。