了解AI使用情况：企业为何需要可见性

行业趋势 | 2025年1月06日

过去两年，我们见证了数亿人开始采用AI技术。从ChatGPT到Gemini，这些工具已成为许多专业人士日常工作流程的一部分，我也不例外。作为一名工程师，我亲身体会到，利用大语言模型（LLM）完成了解新库、解读复杂的TypeScript声明以及总结各种技术的最佳实践等任务，可以显著提高工作效率。

虽然我非常怀念StackOverflow，但如今有了一位热心友好的助手，无论我的问题或请求存在何种不足或歧义，它似乎总能为我指明正确方向，这一点实在令人欣喜。大型语言模型（LLM）仿佛总能神奇地遵循一条首要原则：先尝试回答提出的问题，再补充其他说明或建议。

采用AI面临的挑战

F5 Workforce AI Security（原名SurepathAI）与其他精通技术的公司一样，已将AI深度融入各种工作流。我们非常希望进一步了解AI在哪些方面判断正确、判断错误，以及在哪些方面会自信地给出错误答案。然而，许多公司才刚开始考虑AI在自身网络中的潜在覆盖范围和影响。IT专业人员和管理人员知道员工正在使用这些工具，却不清楚实际使用的是哪些工具。简而言之，他们无法清晰了解以下情况：

哪些人员使用AI、使用频率如何，以及用于哪些任务
他们与哪些大语言模型共享哪些信息
这些交互可能带来的风险

常见但无效的方法

针对这类特定的数据泄露问题，许多公司通常会先发布一份备忘录，提醒员工留意向LLM发送的内容，并出于善意以要点形式说明哪些信息属于敏感信息、知识产权或其他不应共享的内容。

而在另一个极端，一些公司因担忧AI的黑箱特性，决定一开始就采取零容忍政策，严格禁止使用AI。

这两种方法都因无法真正了解实际使用模式而失效。没有具体的遥测数据，就无法得知员工是否遵守准则，也无法判断生产力受到多大影响。员工往往会忽视或误解准则，有时还会认为收益大于他们所感知的风险。AI交互看似私密，这进一步加剧了问题，因为用户可能会在不知情的情况下分享敏感信息。当用户觉得几乎没有风险或完全没有风险时，很容易就会发送个人或机密信息。

可见性为何至关重要

与其采取过于宽松或过于严格的做法，不如提高AI使用情况的可见性，让企业能够做出有充分依据且可执行的决策。可见性至关重要，因为它有助于企业：

了解公司内各员工和部门正在使用哪些AI服务，从而评估风险
生成风险画像，综合考虑员工和群组定义，以及任务内容、操作和意图
识别并追溯潜在的敏感数据和知识产权泄露
通过收集有价值的用例和扩大采用范围的机会，深入了解生产力提升情况
根据实际使用模式优化策略

F5 Workforce AI Security（原名SurepathAI）通过以下方式实现这一目标：

与企业网络无缝集成
深入洞察整个组织的AI使用情况
识别使用AI的具体服务、用户和部门
分析各项任务的意图、内容和风险
根据实际使用情况以及我们收录的数百种公开可用的大语言模型（LLM）和AI服务，生成依据充分的风险画像

迈向可视性及更远未来

快速查看我们的公共服务目录即可发现，包括ChatGPT和Gemini在内，每10项服务中有6项会使用用户数据训练模型，另有4项允许在无审核机制的情况下使用。这意味着，这些服务没有内置防护措施，无法阻止模型在收到被视为危险或恶意的提示词时作出响应。

制定AI可接受使用政策无疑是良好的第一步。随着持续投入并提高可见性，您可以就以下方面做出明智决策，进一步完善安全态势：

针对哪些员工和部门允许或阻止哪些AI服务
需要为哪些类型的敏感数据、任务和意图标注风险级别
检测到潜在风险交互时如何响应

这正是F5 Workforce AI Security（原名SurepathAI）的用武之地。只需约20分钟，我们即可将贵公司的企业网络连接到平台，让您立即了解公司内部的AI使用情况，包括正在使用哪些服务、使用者是谁，甚至还能查看相关交互的内容。无需中断员工的工作流程或访问，即可收集有价值的信息。这种非侵入式方式有助于了解当前的AI应用状况和潜在风险。