几年前，大多数人提到“生成式AI”，想到的还是艺术创作，例如绘制超现实主义肖像、作曲，甚至创作短篇小说。如今，这些生成技术正逐渐成为强大的网络安全工具。颇具反差的是，曾用于创作奇趣猫咪图片的技术，现在正帮助我们识别复杂的威胁向量，并应对现实中的安全事件。
但生成式AI与网络安全的融合是否只是炒作？还是说，我们正处于威胁建模和事件响应新时代的前夜，有望大幅缩短检测和缓解攻击的平均时间？我将阐明，生成式AI有望在识别新威胁以及协调高效、数据驱动的响应方面带来重大变革。然而，与任何新兴技术一样，它也存在隐患。下面深入探讨。
论点： 生成式AI在整合模式、预测新型攻击向量和自动执行响应策略方面具有独特能力，将显著增强威胁建模和事件响应能力，但前提是我们必须直面可靠性、伦理和数据治理方面的挑战。
网络威胁正以惊人的速度演变，而传统的基于规则或基于特征码的系统往往难以及时应对。生成式模型（如先进的大语言模型）可以检测异常，并推测潜在的未来攻击模式，其能力远超传统启发式方法的范畴。然而，这些模型也会带来新的漏洞，例如可能因“幻觉”而产生误报，或无意中生成恶意代码。面对这些能力，我们既要积极探索，也要保持谨慎。
超越已知特征码的威胁建模
为何使用生成式AI进行威胁建模？
传统上，威胁建模依赖已知攻击特征、历史模式和人工专业知识。但随着多态恶意软件、供应链漏洞和零日漏洞利用激增，单纯依靠被动响应的方法已难以满足需求。
生成式AI由此登场。如今，“生成式”通常指大语言模型（LLM），但也可以包括其他能够生成新数据模式的算法。这些模型可以从海量遥测数据集中发现细微的关联，例如可疑的命令序列、横向移动尝试或数据外泄模式。更重要的是，它们并不局限于明确标记为“恶意”的行为，而是学习“正常”行为的底层分布，并可标记尚未被明确列为威胁的异常情况。
然而，检测异常只是第一步。如果某些行为尚未被标记为恶意或良性，大语言模型（LLM）或任何生成式方法可能需要与其他分类器或启发式检查串联使用，以确认相关行为确实具有恶意，还是仅仅不同寻常。例如，模型可能会推断某种新的横向移动模式存在可疑之处，但有些组织会出于正当目的使用很少访问的跳板机，因此这种异常在具体情境下并无危害。归根结底，生成式AI善于发现传统特征之外的潜在威胁，但必须结合可靠的决策逻辑（无论是自动化逻辑还是由人工主导），才能确定哪些异常代表真正的威胁。
实际环境测试：F5沙箱环境
2024年末，F5开展了一项受控模拟，以了解生成式AI模型在不断变化的威胁环境中可能有怎样的表现。我们将来自多租户环境的匿名化日志数据输入F5内部测试环境，并特意注入此前从未出现过的新攻击模式。起初，模型产生了几次“误报”（这类模型有时会过于敏感），但经过迭代训练后，其异常检测的准确率开始超过我们的基准特征码检测系统。真正令人印象深刻的是，它还标记出了潜在漏洞利用行为，其中一些甚至是我们的蓝队分析师也未曾考虑过的，例如伪装在常规文件共享协议下的某些横向移动尝试。
缩短“平均修复时间”
自适应响应行动手册
生成式模型不仅可用于检测，还能在事件发生时快速生成建议的响应手册。可以将其视为AI协作助手：监控实时日志，整合多个数据源的情报，并提出协调一致的响应计划。
例如，如果系统检测到高风险异常，可以建议采用动态防火墙策略，或隔离可疑虚拟机（VM）。由于系统会从以往事件中学习，这些建议将逐步优化。相比初始设置后很少更新的静态运行手册，这是一项重大进步。
大规模编排工具
近期，各大安全会议上涌现出一批生成式AI集成方案（例如Black Hat 2024以及今年新推出的AI-SecOps Summit）。这些方案侧重于“自主式”或“智能体式”响应，由AI层实时编排多种安全工具，包括SIEM、端点保护和WAF。如今，多云已成为常态，因此，使用单一生成式模型协调AWS、Azure和本地环境中的威胁响应，正变得极具吸引力。
但问题在于：如果只是将过时或低效的流程自动化，我们可能无法改善整体安全态势，反而会“更快地失败”。 如果在采用AI时不重新审视基本工作流，就可能加速执行存在缺陷的流程。因此，应将AI视为重新构想安全和交付方式的催化剂，而不是仅仅加快现有工作的速度。
还需要注意的是，生成式模型能够自动执行响应，并不意味着就应该这样做。我们需要设置防护机制和升级路径，确保关键决策（例如隔离整个生产网段）始终有人参与。简而言之，如果我们愿意从根本上更新流程，而不只是提升速度，生成式AI将为打破旧有假设、设计更高效且适应性更强的事件响应框架带来令人期待的机遇。
2025年热门话题
- LLM之争仍在继续：头部云服务提供商竞相发布安全性更高的大语言模型（LLM），并纷纷宣称采用了先进的微调技术，以减少幻觉并提高合规性。
- 开源项目：社区驱动的计划（如AI-SIGS或ThreatGen）正在兴起，为安全研究人员提供开源框架，用于构建自定义生成式威胁模型。
- 监管焦点：欧盟新提出的人工智能法规提案将生成式网络安全应用归为“高风险”技术，要求提高透明度并明确数据来源。
这是一个令人振奋的时期：越来越多的大型企业和中型市场参与者开始采用生成式AI，希望借此超越传统解决方案。但如果组织急于部署生成式AI，忽视健全的数据治理、模型可解释性和问责框架等基础环节，就可能引发问题。
幻觉、隐私与伦理困境
生成式模型虽能凭借富有创意的推断令人惊叹，但也可能“幻觉”出听似合理、实则不存在的威胁。大量误报可能让安全运营团队淹没在毫无意义的警报中。久而久之，这会削弱人们对AI驱动系统的信任。
训练稳健的模型需要大量数据。不同地区的隐私法律可能会限制可使用的日志或遥测数据。必须清理敏感用户数据或对其进行匿名化处理，以避免严重的合规问题，并确保以合乎道德的方式使用数据。
我们不能忽视其更为严峻的另一面：威胁行为者可以利用生成式AI撰写极具迷惑性的网络钓鱼邮件、开发新型恶意软件，或更快地发现零日漏洞，而且他们已经这样做了。在构建这些防御能力的同时，我们必须假定攻击者也在利用相同技术增强攻击能力。
拥抱未来
展望未来，生成式AI可能会发展成为每套安全运营工具中的标准层，其集成程度可与如今的漏洞扫描器或入侵检测系统相当。随着可解释性不断提升，例如AI得出结论的过程更加透明，安全团队将更有信心让AI处理威胁建模生命周期中的更多环节。
未来还可能出现全球威胁情报联盟，由不同组织训练的生成式模型在保护隐私的同时共享部分洞察。这可能有助于各行业更快、更协调地应对零日攻击。
不过，仍需再次强调，这项技术尚处于早期阶段。组织必须先在数据最佳实践、稳健的训练管道和明确的治理机制方面投入资源，才能在关键任务场景中依赖生成式AI。
准备好重新思考安全了吗？
生成式AI有望颠覆传统的威胁建模和事件响应方法。通过创造性地分析模式并自动制定响应策略，它可以显著提升速度和准确性，但前提是妥善应对幻觉、合规性和伦理保障等固有挑战。
相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。