如何制定适合组织自身情况的AI安全策略

F5 Newsroom Staff

简介

自ChatGPT于2022年11月发布以来，生成式人工智能（GenAI）模型迅速在各企业中得到采用，但企业并未设置任何防护措施或监管机制来及时叫停或关闭这些模型。

政府机构正努力制定相关法规，既保护用户和创新，又防止个人威胁行为者、犯罪组织、非国家实体、国家和企业实施犯罪行为或纯粹的逐利行为，其中也包括创建这些模型并从中获利的企业。 

The LLM治理的重任已落到CISO肩上。为组织制定一套AI安全 政策及相应的控制措施是一项艰巨的任务，因为不可能用一套政策涵盖AI的方方面面。例如，AI专项政策需要涉及、扩展甚至取代现有的IT采购、部署、安全和使用政策；涵盖从文档保留、知识产权归属到合同起草等各方面的法律与合规政策；针对自动化简历筛选应用的人力资源政策；并以此类推，覆盖公司的每个职能部门和业务部门。

本篇博文为制定基础政策提供了起点，旨在解决AI应用生态系统中最迫切的问题：在整个企业范围内安全部署和使用生成式AI模型。我们不依赖特定模型的AI Guardrails解决方案可应对下文示例政策中指出的许多关键问题。

除政策纲要外，我们还提供了一个建议模板，供您制定自己的AI安全政策。 这些示例不构成法律建议。实施AI安全政策前，请咨询法律顾问。

政策示例

模型集成策略

在整个组织中部署AI模型，首先需要确定部署方式。确定部署方式时需要考虑的问题包括：

• 贵组织目前所需的模型数量
  • 在早期阶段预留额外容量，以便扩展用户数量和模型数量
• 模型应采用公开模式（ChatGPT、Claude、Bard等）、私有模式（定制或集成到Salesforce等其他应用中）、内部模式，还是这些模式的组合
• 哪种类型的平台更适合在贵组织内部署：SaaS、私有云、公有云、本地部署、物理隔离环境或其他类型
  • 注意：鉴于SaaS供应商已在使用大量模型，通过限制模型来约束SaaS应用的使用并不太可行
  • 确保所有平台都具备弹性扩缩容能力
• 网络分段
• 兼容现有软件和系统，减少技术蔓延
• 冗余
• 安全缺口

用户访问策略

明确说明允许哪些人员使用哪些模型、使用频率以及用途。

• 使用权限是否仅限于员工和承包商，还是也会向业务合作伙伴、客户等其他人员授予完整或受限的访问权限？
• 访问网络/系统后，是否可以获得对模型的完整访问权限，还是会对模型应用分段权限或基于策略的访问控制（PBAC）？
• 不同群组或部门是否需要使用给定模型中的不同功能，或者是否应禁止某些群组使用特定功能？
• 如何分配执行管理活动所需的访问权限？分配依据是什么？

可接受使用政策

对于模型的哪些使用方式可视为可接受或不可接受，不同组织的判断会有很大差异。需要考虑的一般问题包括：

• 应如何使用模型；例如，仅限用于公司业务，并遵守其他相关政策；不得用于个人用途；不得用于其他商业实体的业务（兼职）；不得用于犯罪活动或其他违法、不道德或危险的用途等？
• 禁用词过滤器应包含哪些词语？例如，某些解剖学术语可能会在土木工程公司内被禁用，但在制药公司或医疗诊断设备公司内则不会。
• 资源分配也会影响使用情况。在部署和采用的早期阶段，建立任务优先级体系会有所帮助，以便随着用例和业务需求的发展，按计划扩展并纳入更多任务。

提示词内容策略

提示内容与可接受使用政策保持一致，但适用范围有所不同。需要明确的问题包括：

• 使用公共模型时允许输入的内容，例如非特定术语、一般性问题等。
• 所有模型均禁止使用的内容，例如亵渎性、偏见性、贬损性、有害性及其他类似用语，以及个人身份信息（PII）
• 使用公共模型时禁止输入的内容，例如公司专用术语（品牌名称、项目名称等）、公司名称、竞争对手名称，以及公司文档（合同、电子邮件、议程、日历、会议纪要、原始数据、源代码、政策、流程、指南等）
• 使用私有或内部模型时禁止输入的内容，例如仅与少数内部用户相关的主题，包括薪资或业务战略

模型输出使用政策

鉴于大多数公开模型的内部控制机制较为薄弱，如何处理模型输出是一个棘手的问题。因此，组织必须制定并执行严格的内部政策，为用户提供指导。需要考虑的问题包括：

• 人工验证 
  • 在将任何模型生成的内容用于任何目的（包括纳入任何类型的公司文档）之前，必须由人工核实所有模型输出，确保其在适用情况下准确、符合事实和/或真实，且并非虚构、臆想或缺乏依据。
  • 验证记录必须包含验证者姓名和时间戳。
• 使用未经修改的内容 
  • 模型输出在纳入公司文档前如未经过重大修改，必须明确标注为模型输出，例如添加脚注、尾注或指向提示词的链接。
  • 模型提供的代码必须由精通该代码所用特定编程语言的［两名］高级员工审核并验证，未经审核和验证不得使用。
  • 验证信息必须包括验证人员的姓名和时间戳。

使用监控和审计策略

随着模型得到日益广泛的采用，可观测性变得愈发重要。了解用户的操作并掌握模型的运行表现，是提升效率和成效的关键。

• 在州电子监控法律允许的情况下，可参照贵组织的电子邮件隐私政策（例如，不应期待隐私受到保护）制定此政策。
• 确保员工了解，无论通过个人设备还是公司所有的设备使用该模型，自动化应用程序都会对其使用情况进行监控和跟踪，并视具体情况向用户或管理员发出实时警报。
  • 某些司法管辖区不允许跟踪用户情绪等信息。
  • 在某些司法管辖区或特定情况下，可能需要清除用户数据。
• 明确跟踪哪些信息及其原因，例如模型使用参数（成本、准确性等）、内容（提示词和响应）、验证信息或用户参与度。

提示词/响应历史记录保留策略

如上所述，跟踪和审计用户交互的能力可以提供许多非常有用的数据点，但一些监管机构已开始关注此类场景下的用户隐私。请确保贵组织了解并妥善落实所有此类规定。需要考虑的问题包括：

• 确定内容（提示、响应、警报等）的默认保留期限、是否可出于特定目的延长保留期限，以及由哪些角色作出该决定。
• 说明清除内容的流程（频率、自动还是手动执行等）。
• 所有提示词和响应至少保留（X时间）；如（角色）认为有必要，则可延长保留期限。

第三方SaaS管控策略

使用第三方软件（例如通过SaaS提供商使用）时，需要考虑其他因素。

• SaaS供应商必须披露其应用或产品是否使用大语言模型（LLM），以及该模型的用途。
• SaaS供应商应向企业客户提供AI物料清单（ABOM），说明LLM的使用情况和人工验证流程。
• 必须通过与采购和许可流程相协调的第三方治理职能，落实SaaS供应商政策。

要详细了解F5的AI运行时安全解决方案，请点击此处。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章