几乎所有旨在了解业界对AI担忧的调查，都将各种问题统统归入“安全”范畴。从对敏感数据泄露的担忧，到幻觉和偏见；从利用提示词注入发起攻击，到透明度和可解释性，似乎AI涉及的一切问题都成了安全领域的责任。
这些担忧都有其合理性，也都很重要，但它们彼此差异很大，而且大多数并不属于安全团队的职责范围。
今天，我们将深入探讨透明度和可解释性。在企业使用AI时，理解并践行这两个关键概念至关重要。这不仅是因为它们有助于建立对系统及其结果的信任，还因为它们有助于系统的故障排查和调试，尤其是在开发阶段。
透明度与可解释性
透明度和可解释性通常都是至关重要的概念，对AI而言尤其如此，因为大多数从业人员（即使是IT领域的从业人员）并不了解这些系统的工作原理。这两个概念经常在伦理AI、负责任AI和AI治理的语境下讨论。尽管二者密切相关，但含义不同，在理解和治理AI系统方面也发挥着不同作用。
透明度侧重于向包括利益相关方和公众在内的广泛受众提供有关AI系统的总体信息。可解释性则更为具体，旨在向需要了解AI系统行为的用户、开发人员和利益相关方阐明具体决策或结果。
透明度旨在提升对系统的信任，而可解释性则侧重于建立对特定输出的信任。为此，透明度和可解释性关注不同的要素。
透明度：注明信息来源
AI透明度是指有关AI系统设计、运行和决策流程的信息向利益相关方公开、可获取且易于理解的程度。它强调清晰传达信息，并提高AI系统工作方式的可见性，使利益相关方能够了解系统的各个方面。
AI透明度的关键要素包括：
- 设计与开发：透明度要求共享有关AI系统设计、架构和训练流程的信息，包括所用数据的类型以及采用的算法和模型。这类似于金融服务领域的信息披露，即服务提供商会说明使用哪些数据及其权重来确定您是否符合抵押贷款申请条件，或信用报告机构如何计算FICO评分。
- 数据和输入：透明度意味着明确说明用于训练和运行AI系统的数据来源及数据类型。此外，还应披露对输入数据进行的任何预处理、转换或扩充。这类信息类似于数据收集声明，即企业会说明其收集和存储哪些数据，以及可能与哪些对象共享这些数据。
- 治理与问责：提供有关AI系统开发、部署和治理责任主体的信息。这有助于利益相关方了解问责结构。
可解释性：展示工作原理
AI的可解释性是指能够以易于理解的方式说明系统做出决策、生成输出或采取某种行为的原因或依据。它强调解释特定决策背后的原因，帮助用户和利益相关方理解AI产生的结果。
AI可解释性的关键要素包括：
- 决策依据：可解释性要求详细说明促成特定决策或输出的因素和逻辑。它回答了以下问题：“AI为什么会做出这一决策？”以及“哪些因素影响了这一结果？”这类似于进行几何证明，需要依据公理（如介于关系、全等、平行线等）来解释输出。换言之，如果AI判定2+2=5，就必须说明这一决策的合理依据，例如采用了另一种数学体系，或将该等式用作文学修辞。
- 模型可解释性：可解释性要求AI模型易于理解，以便利益相关方了解决策背后的运行机制。例如，并非所有人都懂微积分，因此仅用复杂方程式进行解释并不充分。生成对抗网络（GAN）与卷积神经网络（CNN）的工作方式存在较大差异，因此，披露所采用的架构方法是实现可解释性的重要一环。
- 人类可理解性：解释必须采用人类（包括非专业人士）易于理解的形式。这要求以简单明了的方式呈现复杂的AI运作机制。不能以十六进制形式或代码来解释，而应采用所有利益相关方都能读懂的形式，包括法务、合规和工程人员。
建立对AI的信任
每项新技术都需要时间来建立信任。15年前，人们并不信任关键应用的自动扩缩容，但如今，这已成为一项不可或缺的基础能力。任何形式的自动化，无论是解决复杂的数学问题、驾驶汽车，还是支付账单，都需要时间来赢得用户的信任。提高流程透明度并说明系统的工作原理，有助于大幅缩短技术从推出到被采用的时间。
透明度有助于全面了解AI系统的运作方式，而可解释性则深入揭示特定决策或结果背后的原因。二者对于AI取得成功，以及企业充分发挥其价值以改善客户服务、提高生产力和加快决策速度都至关重要。
而且，这两者都不属于安全领域的职责范畴。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。