LLM时代的DLP与信息过度共享

F5 Newsroom Staff

自20多年前社交媒体兴起以来，世界各地的人们越来越、越来越习惯于分享信息，有时甚至远超必要范围。我们很快就从在MySpace和Facebook上发布过多信息（TMI），发展到在Instagram和Pinterest上分享生活中每时每刻的照片，再到与大型语言模型（LLM）进行由AI驱动、如同真人般的对话。遗憾的是，在生成式AI（GenAI）的背景下，过度分享不仅是社交上的失礼行为，还会带来重大安全风险，对组织而言尤其如此。 

LLM等GenAI模型在生成各类内容（包括准确且相关的内容）方面表现出色，但它们也极易泄露信息。如果向其输入详细、私密或敏感的信息，可能会带来重大风险。与LLM交互十分便捷，容易让用户产生虚假的安全感，进而无意中过度分享关键数据，或导致数据通过LLM意外泄露。事实上，这种情况已十分常见。即使有报道称高管分享公司战略文件、医生输入患者详细信息，或工程师将专有源代码上传到ChatGPT等公共模型中，也已不足为奇。

这些只是敏感信息可能在无意中泄露的几个例子，原因是信息发送者没有意识到，这些信息会成为模型知识库的一部分。一旦提交，便无法收回，也没有重来的机会。它将永远留在那里。

要在不影响安全性的前提下发挥LLM的强大能力，关键在于科学而巧妙地设计提示词。提示词既要足够详细，以获得所需的响应，又要谨慎措辞，以保护敏感信息。为此，设计提示词时需要深思熟虑，在具体明确与谨慎保密之间取得平衡。应提醒AI模型和应用的用户注意以下几点：

• 简洁明了：避免在提示词中包含可能泄露机密信息的不必要细节，例如个人姓名、项目名称、日期、目的地及其他具体信息。
• 使用假设场景：就敏感任务寻求AI协助时，请以假设情境提出请求。请勿使用公司、人员、项目或地点的真实名称。
• 保持警觉：应经常提醒员工，并提供实用的AI工具使用最佳实践指南，以强化针对过度分享风险开展的AI安全培训和教育。
• 实施监督机制：监控AI工具的使用情况，以检测并防止潜在的数据泄露，同时识别潜在的内部威胁。

然而，即使是最谨慎的员工，在精心编写提示词时仍可能引发安全问题。因此，配备可自定义内容扫描器的自动化信任层可能是实现严密数据丢失防护（DLP）的关键。我们的GenAI部署安全与赋能平台会审查传出和传入的内容，确保个人或公司的机密数据不会流出组织，同时阻止恶意、可疑或其他不可接受的内容进入。其他扫描器还会检查提示词，识别虽不会损害公司利益，但不符合公司价值观或业务用途的内容。在我们不受特定模型限制的平台上执行的所有交互都会被记录，以供管理员审查，并满足可审计性和问责要求。

随着LLM日益融入日常运营，妥善管理与其交互的方式至关重要。无论有意还是无意，过度分享信息都可能造成影响深远的严重后果。通过规范员工使用这些强大工具的方式，贵组织可以在保护个人和工作信息的同时，充分发挥生成式AI的价值。点击 此处，预约我们的生成式AI安全与赋能平台演示。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章