生成式AI就像一件格外耀眼的事物，让所有人都移不开目光。
全球几乎所有企业都对生成式AI工具推动业务转型的潜力充满期待，这并非没有道理。
生成式AI是一种机器学习技术，可根据自然语言请求生成文本和图像等内容，正在推动行业变革。从提高生产力到改善个性化体验，生成式AI工具可带来一系列优势。
例如，在Gartner最近开展的一项调查中，超过2,500名高管表示，改善客户体验和客户留存（38%）是其投资生成式AI的首要目的。其他目的包括推动收入增长（26%）、优化成本（17%）和保障业务连续性（7%）。
此外，在另一项针对3,000名CEO的调查中，IBM发现，69%的CEO受访者认为生成式AI可为整个组织带来广泛益处。然而，只有30%的非CEO高管表示，其组织已做好负责任地采用生成式AI的准备。
“生成式AI发展迅速，组织可能很快陷入困境。”
坦率地说，这令人担忧。只有不到三分之一的高管表示，其组织已准备好以负责任的方式采用生成式AI？
生成式AI工具可能带来诸多收益，很容易让人只看到这些积极成果。但别忘了，使用生成式AI工具也可能带来重大风险和挑战。
生成式AI发展迅速。如果组织不谨慎管理人员使用生成式AI工具的方式，也未持续关注输入生成式AI界面的数据，很快就可能陷入困境。
生成式AI可能通过多种方式，让原本积极有益的体验突然变成代价高昂的安全难题。以下仅列举其中几种：
- 泄露企业敏感数据。
您可能听说或读到过这样一则消息：Samsung员工意外将代码上传到Open AI的聊天机器人ChatGPT。这不仅导致专有数据泄露，还让Samsung陷入了一场波及全球的重大公关危机。Samsung很可能并非唯一已经或可能遭遇此类事件的组织。下一个可能就是贵公司。 - 传播错误信息和偏见。
ChatGPT等生成式AI工具由大语言模型（LLM）提供支持。LLM使用来自文章、网站等各种来源的数据集进行训练，其中也包括不良和错误信息。人们很容易误以为生成式AI工具不会生成错误信息或助长偏见，进而将其用于营销活动或作为推断的依据。然而，不知不觉间，真假之间的界限会变得模糊，声誉也会随之受损。此外，与AI幻觉带来的问题相比，生成式AI聊天机器人产生的偏见和错误信息甚至还只是冰山一角！ - 个人身份信息（PII）处理不当。
在与生成式AI工具交互时，可能会收集PII。提供这些工具的企业有责任采取严格的数据隐私保护措施。如果这些企业未能做到，您可能会面临账户接管。如果恶意行为者获取了客户的PII，您还可能陷入严重的法律纠纷，并失去客户的信任。
值得庆幸的是，许多组织正在采取措施，确保以安全的方式使用生成式AI。一些公司提供培训，介绍生成式AI的积极和消极影响，或鼓励员工以负责任的方式探索和试用。另一些公司则制定了生成式AI政策，要求员工确认知悉并遵循相关指导。
尽管这些措施确实有其价值，但生成式AI工具日益普及、复杂性不断提高且发展迅速，因此需要采取更多安全措施。此外，人为错误始终难以避免。
相信您一定听过这句话，甚至可能听过很多次：看不见的风险也会造成伤害。对于在工作场所使用生成式AI工具而言，这句话再贴切不过。缺乏风险意识可能会让贵公司处于不利地位。
“应优先采用的一项零信任安全关键策略，是检测对生成式AI工具的访问。”
为防范在工作场所使用生成式AI所带来的威胁，企业必须采用零信任方法。请牢记，零信任的核心原则是：“从不信任，始终验证。”当前应优先实施的一项零信任安全关键策略，是检测对生成式AI工具的访问。
通过提高员工在工作中使用生成式AI工具的可见性并实施精细化控制，安全团队能够识别和管理潜在风险。这有助于组织：
- 保护数据、个人身份信息（PII）、代码、知识产权（IP）等。
- 启用并应用支持公司准则的策略。
- 防范有意或无意滥用生成式AI工具，维护安全。
随着生成式AI领域持续快速发展，采用具备生成式AI工具检测能力的零信任安全框架，可以让企业更加安心。
要进一步了解F5如何帮助降低在工作场所使用生成式AI工具的潜在风险，请参阅这篇关于F5 BIG-IP SSL Orchestrator的DevCentral文章。
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。