影子AI：潜藏在企业中的隐性安全风险

F5生态系统 | 2025年7月16日

Rachael Shah高级产品营销经理 | F5

人工智能将长期存在，我们不可能再回到2010年代之前。它在生产力、创新和经济影响方面带来的提升具有深远的变革意义。

但在获得这些显著收益的同时，采用AI的组织也面临严重风险。其中最紧迫的风险之一是影子AI，即员工在IT负责人不知情或未批准的情况下，越来越多地使用AI工具。尽管这种做法出现时间相对较短且仍在不断演变，但正迅速成为重大的安全与合规威胁。

“虽然影子AI造成的确切经济损失仍在统计中，但其潜在危害已十分明显，并且还在不断加剧。”

影子AI是影子IT迅速发展的衍生问题。影子IT是一个长期存在的挑战，指员工在企业内部部署未经批准的软件、云服务或系统。影子IT已给治理和安全带来压力，而影子AI又增加了一层危险的新复杂性。

影子AI的一些示例：

软件工程师使用个人ChatGPT、Gemini或Copilot账户生成样板代码、翻译语言、重构旧代码或编写测试用例，却无意中将专有代码粘贴到公共模型中。这些代码可能会被存储、记录或泄露。更糟的是，AI生成的输出可能包含不安全的逻辑、虚构的API或违反许可条款的代码。
一名传播专员将机密战略备忘录上传到AI工具中，用于总结内容或起草面向客户的信息。此时，这些专有内容已存储在第三方服务器上，脱离了IT部门的监管。
一名销售代表安装了一个Chrome扩展程序。该扩展程序连接其电子邮件和CRM系统，并使用AI自动生成潜在客户开发邮件。这样做可能带来哪些风险？可能导致数据泄露、违反内部政策，以及不符合《通用数据保护条例》（GDPR）或《加州消费者隐私法案》等法规的要求。

这些示例只是冰山一角。每天，各行各业都在上演无数其他影子AI场景。这个问题影响范围之广，使Gartner®预测：“到2027年，75%的员工将在IT部门的视线之外获取、修改或创建技术，高于2022年的41%。因此，自上而下、高度集中的网络安全运营模式将难以为继。CISO必须转而重构网络安全职能，建立精简的集中式职能，为广泛分布在整个企业中的专家和融合团队提供支持。这样可以将网络安全能力扩展到企业边缘，更贴近技术与风险决策的制定和实施环节。”¹

提示词注入和数据泄露：主要担忧

影子AI造成的确切经济损失仍在统计中，但其潜在危害显而易见，并且还在不断加剧。组织若不立即采取行动，可能面临严重事件、监管风险以及客户信任受损。

最令人担忧的漏洞之一是提示词注入。这种攻击是指恶意用户操纵AI的输入，以绕过限制、泄露敏感数据或执行非预期操作。AI模型往往默认信任输入，因此容易遭受此类攻击。成功的提示词注入可能会诱使AI泄露内部数据、破坏自动化流程或削弱决策系统。

另一个主要隐患是数据泄露，尤其是个人身份信息（PII）、受保护的健康信息（PHI）、银行详细信息和财务记录、源代码和专有知识产权、凭据和访问密钥或客户记录的泄露。

更令问题复杂的是，还可能出现不符合法规要求的情况。未经授权使用AI很容易违反GDPR、HIPAA、PCI DSS和《萨班斯-奥克斯利法案》等法规与标准，使企业面临处罚和声誉受损的风险。

一些公司选择全面禁止，但这样做有效吗？

为应对这些风险，一些组织已禁止员工使用未经批准的生成式AI工具。例如，三星于2023年率先禁止使用ChatGPT及类似的AI聊天机器人，理由是担心内部敏感信息泄露。此后，多家银行和其他企业也发布了类似的限制或警告。

然而，绝大多数行业专家都不建议全面禁用。

为何治理比禁令更可取

尽管这些风险确实存在，但行业分析师建议采用预防性政策和治理框架，而非全面禁止。

禁令往往适得其反。禁令难以执行，通常会抑制创新并打击士气，还可能促使AI的使用转入更隐蔽的渠道，导致检测和管控更加困难。

正如一位IT负责人在一场关于禁用AI工具的Gartner Peer Community讨论中所说：“禁令根本不起作用。即使尚未制定相关政策，这种做法也会阻碍创新，并向员工和外界传递有关我们组织的错误信息。”

组织应采取哪些替代措施

以下是组织目前可以采取的一些切实可行的治理措施：

制定明确的AI使用政策
明确哪些工具已获批准、应如何管理数据、哪些用例可以接受，以及需要在哪些方面设置防护措施。清楚说明允许哪些行为及其原因。
维护经过审核的AI工具清单
从数据隐私、安全性和法规合规性方面评估工具。鼓励员工使用这些工具，而不是未经审核的平台。例如，使用ChatGPT等工具的企业版，并启用日志记录和数据丢失防护功能；同时采用集成到公司平台中的内部AI助手。
培训员工并提高安全意识
帮助员工了解相关风险，包括数据泄露、虚假生成内容以及合规问题。大多数误用并非有意为之。
先监控，再调整
考虑采用符合道德和法律要求的监控措施，以发现未经授权的使用行为。应通过教育引导来应对，而非惩罚。随着AI能力的变化，持续完善相关政策。