英文_埃森哲_与负责任的人工智能实现跨越_32页_8mb

总结：从合规到信心——迈向负责任的AI成熟度

核心内容

随着生成式AI在商业和社会中的广泛应用，其带来的风险也日益增加。本文探讨了企业在负责任AI（Responsible AI, RAI）方面的成熟度，分析了当前AI风险的挑战、监管环境的变化以及企业如何通过系统化措施实现负责任AI的转型。文章强调，负责任AI不仅是合规问题，更是企业创造价值、增强信任的关键。

主要观点

• 负责任AI的重要性：负责任AI的开发和使用是企业实现AI价值的关键，它有助于减少风险并推动创新。
• AI风险的复杂性：AI相关风险范围和频率在增加，包括隐私、数据治理、安全、可靠性、透明度、知识产权、环境影响等。
• 监管环境的变化：全球多个国家正在制定或修订AI相关法规，企业需要适应不断变化的法律环境。
• 企业对负责任AI的认知提升：越来越多的企业开始认识到负责任AI对品牌价值和营收增长的重要性。
• 负责任AI成熟度模型：我们提出了一个四阶段成熟度模型，帮助企业评估和提升其负责任AI的实践水平。

关键信息

当前AI风险挑战

1. 风险范围和频率增加

   • 隐私和数据治理（51%）是企业最担忧的风险。
   • 安全（47%）和可靠性（45%）是第二和第三大风险。
   • 生成式AI带来的新风险包括“黑箱”模型、环境影响、知识产权侵权等。

2. 监管环境持续演进

   • 超过77%的公司面临或预计面临AI监管。
   • 90%的公司预计将在未来五年内受到与AI相关的法律义务影响，如网络安全、数据保护和消费者权益保护。
   • 各国如欧盟、美国、英国、加拿大、法国、日本、中国、澳大利亚、德国等均在推进AI相关法规的制定。

3. AI价值链的扩展风险

   • 企业现在既是AI模型的开发者又是买家，这导致风险复杂性呈指数级增长。
   • 仅43%的收购AI模型的公司有完善的采购措施，如法规检查和第三方审计。

企业对负责任AI的认知与实践

• 企业对负责任AI的重视：

  • 49%的企业认为负责任AI是AI营收增长的关键因素。
  • 43%的企业认为负责任AI是保护品牌价值的重要手段。
  • 仅29%的企业仍将其视为主要的合规问题。

• 企业对负责任AI的投入：

  • 42%的企业已将超过10%的AI预算用于负责任AI项目。
  • 预计79%的企业将在未来两年内达到这一目标。

负责任AI成熟度模型

我们与斯坦福大学合作，构建了一个四阶段的负责任AI成熟度模型，帮助企业评估其负责任AI的实践水平：

阶段1：设定负责任AI原则

• 企业制定了AI伦理原则和指南，但缺乏系统化的治理流程。
• 偶尔进行AI项目的风险评估，但未形成全面的实践。

阶段2：建立负责任AI计划

• 企业建立了负责任AI战略，并定义了风险评估流程。
• 引入了透明度和可审计性机制，但实施仍处于早期阶段。

阶段3：将负责任AI付诸实践

• 企业系统化实施负责任AI措施，以满足监管和法律义务。
• 建立了AI风险控制机制，包括数据来源控制、模型测试、监控系统等。

阶段4：成为负责任AI先锋

• 企业完全系统化地运营负责任AI，推动AI的真正价值。
• 采用前瞻性方法，持续评估当前和未来风险。
• 与第三方AI供应商合作，建立信任关系并管理风险。
• 培养负责任AI人才，进行强制性培训和教育。

企业实践案例

• 一家亚洲制造企业通过制定内部AI政策和清单，确保AI的安全、公平和透明，同时通过员工培训提高实施效果。
• 一家跨国消费健康企业通过与Accenture合作，制定了负责任AI政策和运营模型，并对高风险AI应用进行了风险筛查和评估。

未来展望

企业需要从合规转向价值创造，通过建立系统化的负责任AI策略，提升其在AI价值链中的整体成熟度。目前，仅有6%的公司达到了运营成熟度的实践阶段，而不到1%的企业处于“负责任AI先锋”阶段。未来，企业必须持续改进，扩展其负责任AI实践，以适应不断变化的AI风险和监管环境。