FICO-2021年负责任的人工智能报告（英文）-2021.6-25页_8mb

总结：负责任的AI现状（2021）

核心内容

2021年，全球100位C级AI领导者参与了一项调查，探讨企业在使用AI时如何确保其伦理、透明、安全，并符合客户利益。调查揭示了企业在AI伦理实践方面面临的主要挑战和关键趋势，包括模型偏见、缺乏透明度、执行支持不足、监管合规的困难以及对抗对抗性AI攻击的措施。

主要观点

• AI伦理意识不足：尽管AI技术在企业中广泛应用，但多数企业对AI伦理问题的理解仍不充分。仅35%的企业能够解释AI模型的具体决策过程，65%无法做到这一点。
• 缺乏统一的伦理标准：企业对AI伦理的责任范围没有共识，部分企业仅关注合规，而另一些则认为AI系统应符合公平、透明和客户利益的基本标准。
• AI模型偏见仍是关键问题：尽管企业开始重视AI偏见问题，但仅有10%的企业依赖第三方评估模型，而大多数仍缺乏系统性的措施来检测和纠正偏见。
• 对抗性AI攻击日益严重：30%的企业报告遭受过对抗性AI攻击，远高于去年的12%。企业需要加强AI安全措施，如“随机性防御”（stochastic defense）和“安全设计”（security by design）。
• 缺乏正式的AI治理框架：仅41%的企业建立了全面的模型开发与治理框架，说明企业在AI治理方面仍有较大提升空间。

关键信息

AI伦理问题的现状

• 透明度不足：65%的企业无法解释AI模型的具体决策过程，仅有35%实现了透明和问责。
• 客户意识薄弱：仅32%的受访者认为客户对AI伦理问题有全面理解。
• 企业内部理解不一：风险与合规团队对AI伦理的理解较高（超过80%），但股东、董事会成员及高管团队的理解较低（超过半数和三分之一）。
• AI伦理与业务目标冲突：62%的受访者认为在AI伦理与快速创新之间难以平衡，78%表示难以获得高管对AI伦理的优先支持。

AI模型偏见的应对措施

• 检测与纠正偏见的手段：59%的企业通过评估模型公平性来检测偏见，55%通过隔离和评估模型的隐性特征来检测偏见。
• AI伦理委员会的设立：仅22%的企业设有AI伦理委员会，表明大多数企业尚未建立专门的伦理审查机制。
• AI治理措施的不足：仅有54%的企业认为能够相对容易地确保AI模型的负责任开发，46%认为这是一个挑战。

对抗性AI攻击的应对策略

• 对抗性AI攻击的上升：30%的企业报告遭受过对抗性AI攻击，远高于去年的12%。
• 安全措施的不足：尽管65%的企业有“随机性防御”机制，但仅27%有明确的生产环境中数据监控流程，17%会预处理敏感数据以防止数据污染。
• 安全与伦理的结合：企业需要将AI安全措施纳入整体AI治理框架，因为对抗性攻击可能对客户隐私和AI模型的公平性造成严重影响。

企业应对策略与未来路径

• 资源投入增加：49%的企业在过去12个月中增加了对AI项目的资源投入，30%保持资源不变。
• AI治理的挑战：企业普遍认为建立负责任的AI实践是高难度任务，主要障碍包括组织内部的政治因素、低效的流程、缺乏高管支持以及监管预期的变化。
• 未来路径建议：
  1. 理解AI风险：企业需要全面识别AI在不同场景下的潜在风险。
  2. 建立合规流程：开发更有效的AI监管流程，以确保AI系统的合法性和伦理性。
  3. 加强模型监控与维护：持续监控AI模型的表现，确保其在实际应用中保持公平和透明。
  4. 推动“伦理设计”：在AI开发过程中嵌入伦理考量，确保模型在设计阶段就具备公平性和可解释性。

结论

2021年的调查表明，尽管企业对AI伦理问题的关注度有所提高，但在实施负责任的AI实践方面仍面临诸多挑战。AI伦理的实现需要企业从数据治理、模型透明度、安全措施和组织文化等多个方面进行系统性改进，同时建立正式的治理框架和伦理委员会，以确保AI技术的负责任使用。