人人都在涌入生成式AI这座金矿。至少表面上看起来如此。如今，我收到的新闻稿几乎都会以某种方式提到生成式AI。
但深入了解后很快就会发现，生成式AI目前影响最大的领域其实是营销。
目前我们看到的是，人们都在争相摘取“低垂的果实”。任何无需大量开发或研究就能轻松“加装”的功能，都会被草草拼接起来并匆忙推向市场。
大多数公司，无论是科技、制造还是医疗保健企业，都在采取更为审慎的方法。也可以说，是一种更具战略性的方法。既然这是我的博客，我当然可以这么说。
如果以一项ExtraHop近期调查来衡量认知程度，那么人们对为何应更审慎地使用生成式AI已十分了解。主要担忧集中在两方面：可靠性和安全性。
在生成式AI领域，可靠性取决于准确性和可信度。我必须能够相信，收到的响应无论是代码、配置还是内容，都准确无误且不存在大量偏见。
在安全领域，我们不仅仍面临一贯存在的那些问题，还要应对更多挑战。如今，风险不只是客户和员工的个人身份信息（PII）遭到泄露，还包括商业秘密和知识产权外泄并广泛传播。
应对生成式AI风险
要解决可靠性方面的挑战，需要投入大量工作，因为这要么需要（a）进行大量训练和微调，要么需要（b）采用一种架构方法，让生成式AI仅作为解决方案的一部分，并利用高级提示工程技术验证自身的回答。这两种方法都需要投入时间和资金，因此目前还看不到生成式AI解决方案对市场格局产生显著影响。这一天终会到来，但仍需时日。
安全挑战既更容易解决，也更难应对。要解决商业秘密或知识产权泄露的问题，要么（a）自行部署和运营LLM实例，并承担由此涉及的所有工作；要么（b）通过架构设计规避这一问题。这意味着需要开发GPT智能体，将LLM的生成能力用作工具，而不是主要信息来源。
例如，人们很容易忽视所收集的数据可能具有战略重要性。我用来跟踪市场活动的模型看似无关紧要，却会暴露大量有关F5如何看待市场以及计划如何参与市场竞争的信息。这些信息具有战略意义。因此，不应将其交给公共LLM分析。再加上生成式AI确实非常不擅长分析表格数据，这显然不是一个合适的用例。
不过，通过利用OpenAI函数来发挥Python的数据分析能力，这其实是个不错的主意。这样做需要投入时间和开发工作，因为需要构建GPT智能体，而不是直接将数据交给OpenAI分析，但它可以同时解决可靠性和安全性方面的挑战。
对于客户或员工的个人身份信息（PII）意外泄露问题，目前已有一种更简便的解决方案，即数据掩码。
生成式AI的数据掩码
目前，数据掩码在开发中的应用已日益普及，因为开发人员可以使用真实数据进行测试，同时避免敏感数据泄露的风险。它同样适用于生成式AI，可用于防止数据泄露。目前已有许多开源库和工具，能够简化集成。毕竟，大多数生成式AI都由API驱动，而API请求易于拦截和检查，以识别其中的敏感数据。
使用数据掩码解决生成式AI安全问题，适用于开发和生产环境，可确保敏感数据在整个应用生命周期内不会暴露。
诚然，在生成式AI出现并成为技术焦点之前，数据掩码的应用就已日益广泛。但生成式AI很可能会推动数据掩码能力在应用交付与安全领域以及应用开发中的发展。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。