欧盟《人工智能法案》

F5 Newsroom Staff

随着AI重塑国际商业格局，欧盟《人工智能法案》（欧盟《人工智能法案》）已成为这项技术发展历程中的一个重要里程碑。这一重要监管框架已在27个国家/地区成为法律，并影响所有计划使用AI的企业或组织。未来，它将影响AI系统的设计和使用方式。

该法案旨在使创新符合严格的监管要求，同时推动以负责任、透明且合乎道德的方式开发和使用AI。尽管有关其实施和后续影响的许多问题仍未得到解答，有些问题甚至尚未提出，但我们重点关注该法案对大型企业的多方面影响，尤其是对创新和运营赋能的影响。理解并适应这项新法规并非可选项，而是必然要求。

风险

《欧盟人工智能法案》对人工智能的创新、开发和实施提出了严格而务实的要求，并规定了严厉的处罚机制。这项具有里程碑意义的综合性法规涵盖人工智能技术的数据质量、透明度、人工监督和问责机制，并为人工智能系统引入了基于风险的分类体系。

这四个类别分别为不可接受/禁止、高风险、有限风险以及最低风险/无风险。法案仅对这些类别进行了描述，而非明确定义，因此在边界情形下仍有些模糊。不过，这一分级体系是该法案的核心，决定了适用的监管审查级别以及必须满足的合规要求。 

这一新的监管环境为企业提供了契机，无论企业是否乐于接受，都需要评估其AI系统的风险等级、加强数据安全与治理、实施合乎伦理的AI设计原则与实践、在整个软件开发生命周期中定期开展测试和验证，并制定全面的合规与事件响应计划。这些措施不仅有助于遵守该法案，还能帮助企业安全、负责任地充分发挥AI的潜力。

尽管该法案对AI系统基于风险的分类仍存在解释空间，但其对风险的重视，是推动AI技术在充分人工监督下以安全、负责任的方式开发和部署的关键一步。随着生成式AI工具进一步向多模态发展，更重要的是，组织内部越来越多的层级将比目前更加依赖这些工具，因此，引入能够识别威胁并全面降低风险敞口的信任层可观测性解决方案将日益重要。 

创新

尽管该法案的严格监管规定带来了重大挑战，但其对透明度、问责制和基本权利保护的重视，为企业推动AI创新向更合乎伦理、更具可持续性的模式发展提供了路径。这可能会促进AI系统的开发，使其不仅具有创新性，还符合社会价值观和规范。为此，该法案中关于“监管沙盒”的规定具有重要意义。

该法案纳入“监管沙盒”是一种值得肯定的做法，因为这允许在受控环境中开展创新。这将有助于企业在推动技术突破与遵守监管标准之间取得平衡。接下来，合理的做法是确保系统基础设施具备充分的权限管理、监控、审计和归因能力，防止用户规避监管要求，从而让客户企业在产品部署后仍能保持控制。

企业面临的关键挑战，是在推动创新、遵守该法案与确保AI开发符合道德标准之间取得适当平衡，同时避免抑制创造力或技术进步。积极主动地应对，有助于将监管合规及其带来的难题转化为竞争优势。

尽管该法案包含复杂且可能成本高昂的合规要求，初期可能会给企业带来负担，但也为以更透明的方式推动AI发展提供了契机。最终，这将增强消费者和利益相关方的信任，并促进长期可持续应用。随着企业持续投资GenAI以在各自领域确立领先地位，应与值得信赖的AI赋能技术合作伙伴携手，确保符合该法案以及更广泛且快速变化的监管要求。

治理

《欧盟人工智能法案》标志着人工智能技术监管迈出了重要一步，为全球人工智能治理树立了新的先例，也促使企业重新思考人工智能开发方式。该法案虽然在合规和资源分配方面带来了挑战，但也为负责任且符合伦理的创新开辟了道路。这一亟需的转变将推动人工智能行业迈向更具问责性和透明度的未来。确保人工智能软件开发生命周期各阶段的安全性和可信度十分重要，而持续落实相关措施，确保模型和用户行为符合法律精神，则至关重要。 

虽然调整组织流程以适应这些法规会带来挑战，但这一过程也为企业提供了机会，使其能够从最初阶段就将信任及其他社会价值观融入产品和服务。随着此类立法逐步落地，支持安全性和可信度的平台变得愈发重要。随着AI监管与合规环境不断演变，企业必须保持敏捷、及时掌握相关信息，并致力于将这些变化融入运营理念。美国企业不妨将监管的必然趋势视为契机，在新的框架下重新定义AI创新，确保其AI战略不仅符合监管要求，也能推动合乎道德且负责任的AI开发。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章