安全运营团队如何看待AI？自主权过度

行业趋势 | 2026年3月19日

2025年下半年，AI从决策辅助者转变为决策制定者，安全团队正忧心忡忡地为这种自主性可能带来的后果做准备。至少，这是最新一期F5 AI态度研究所揭示的普遍看法。该研究全面分析了互联网大型网络安全社区Reddit的r/cybersecurity板块中，贡献度排名前500位的用户对AI的看法。

在上一次分析中，从业人员主要关注影子AI问题和第三方AI服务的数据安全，但到2025年下半年，关注重点转向了企业自身部署的AI被赋予过多自主权和访问权限的问题。

与这种担忧相伴的，是人们日益质疑：与这些风险相比，AI究竟能带来多大实际价值。从业者并非主张让全球“AI列车”戛然而止。但随着自主智能体的引入，对专门防护措施的需求已达到前所未有的水平。

根据F5的情绪分析，“过度自主权”现已成为安全专业人员提及最多的担忧。2025年下半年，Reddit r/cybersecurity社区中对此问题的提及次数较上半年增长了1,300%。

根据F5的情绪分析，“过度自主权”现已成为安全专业人员提及最多的担忧。2025年下半年，Reddit r/cybersecurity社区中对此的提及次数较上半年增长了1,300%。

过度自主权取代影子AI，成为首要担忧

根据F5的情绪分析，2025年下半年，Reddit的r/cybersecurity社区中提及“过度自主性”的次数较2025年上半年增长至13倍，使其成为安全专业人员最关注的问题。与此同时，AI系统在关键工作流中正获得更大的决策自主权和更多工具访问权限，并可广泛访问敏感数据。“过度自主性”泛指AI系统采取超出预期范围或监管范围的行动。它不仅体现了人们对自主AI智能体潜在影响的预先担忧，更常见的是AI对关键工作流产生的直接或间接影响。

随着医疗、金融服务或技术领域不断涌现令人振奋的创新用例，最坏情况所造成的影响范围也在不成比例地扩大。一位从业者以过度依赖AI工具进行摘要为例，说明了这一观点：

“我们可能正步入这样一个时代：恶意行为者不再窃取原始数据，而是转而窃取AI摘要。这些摘要可以详细分析一家公司的使命、短板、漏洞以及不为人知的隐情。”

—r/cybersecurity成员

讨论中最引人关注的自主权过度案例，是7月发生的Replit编码智能体事件。当时正值代码冻结期，一个智能体删除了客户的整个数据库。AI安全故障并不总会像本次事件这样发出明显的“警报”；它们往往只是难以察觉的语义异常，在传统LLM交互中难以缓解，而在可见性更有限的智能体工作流中，带来的挑战更为严峻。

F5的AI舆情研究显示，与2025年上半年相比，下半年安全专业人员对“AI垃圾内容”的担忧增加了一倍，占所有已表达担忧的17%。

低质AI内容引发安全担忧

2025年下半年，人们普遍质疑AI在当前、近期乃至长期的价值。同期，人们对“AI垃圾内容”的关注度翻了一番。这类由AI批量生成的低质量内容会污染信息渠道，并增加运营噪声和风险。具体表现包括AI生成的代码质量欠佳、人们对疑似由AI生成的内容愈发不信任，以及对依赖AI可能导致思维能力退化等社会问题的担忧。