毕马威-智能自动化的风险治理-2019.8-11页_690kb

智能自动化的风险治理总结

核心内容

智能自动化（又称数字化劳动力）正成为企业数字化转型的重要组成部分，它不仅带来了效率提升、成本节约等机遇，也伴随着一系列新的风险。企业需在战略、交付和运营三个层面全面思考并有效管控这些风险，以确保智能自动化系统的可靠性、合规性和道德性。毕马威企业咨询（中国）有限公司提出了一套智能自动化风险治理框架，帮助企业评估和管理相关风险，增强利益相关方对智能自动化程序的信任。

主要观点

• 智能自动化具有变革潜力，能够提升业务处理速度、运营效率、成本效益和决策能力。
• 企业需从战略、交付、运营三个层面进行风险治理，以应对智能自动化带来的挑战。
• 建立对人工智能系统的信任是企业领导层的首要任务，但目前许多企业对此缺乏清晰的理解和有效的治理机制。
• 智能自动化相关的风险不仅包括财务损失，还涉及声誉、品牌和道德问题。
• 企业需关注算法的完备性、可释性、公平性和适应性，这四大信任支柱是智能自动化系统可靠性的关键。

关键信息

1. 智能自动化的风险与挑战

• 算法信任问题：45%的受访高管认为建立对人工智能系统的信任极具挑战性。
• 治理缺失：70%的受访高管表示不清楚如何管理算法。
• 责任划分不清：多数企业仍在探索谁应对人工智能程序和结果负责。
• 缺乏统一管理：企业普遍缺乏对机器人程序的统一和安全的开发与管理机制。
• 技能与工具不足：开发人员技能水平不一，缺乏系统培训；缺乏自动预警工具来处理错误。

2. 风险治理框架

毕马威提出了一个包含四个核心信任支柱的智能自动化风险治理框架：

完备性

• 管理层需了解数据来源、模型控制、评估指标及持续维护机制。
• 应建立持续监控模型性能的机制，确保模型目标不变。

可释性

• 需要清晰解释模型输出的原因，确保结果的透明和可理解。
• 基于对结果的定义、规则集合及持续评估，确保模型的可解释性。

公平性

• 算法应避免偏见，需确保训练数据与目标相关且合理。
• 应建立监督机制，识别并纠正数据中的偏差。
• 采用技术手段如平衡、加权或反向消除，降低模型偏差。

适应性

• 算法应具备自我修复能力，能够处理错误或异常数据。
• 需建立对训练数据和反馈数据的保护机制，以及对模型终端和访问的监控措施。

3. 风险与治理要点

• 程序所有权不明确：智能自动化程序的归属与责任划分需明确。
• 缺乏风险与程序监督：多数企业缺乏对智能自动化流程和程序的监督机制。
• 机器人认证缺失：缺乏对机器人ID所有权、安全性和隐私保护的控制。
• 变更管理不足：缺乏对源应用程序修改影响机器人程序的评估流程，以及统一的变更管理机制。
• 开发与监控不完善：缺乏对机器人程序的统一开发和监控，影响其稳定性和安全性。

4. 治理建议

毕马威提供了一套智能自动化风险治理框架，帮助企业从以下几个方面进行评估和管理：

• 战略风险评估：分析企业当前智能自动化水平与战略发展、行业趋势的匹配度，结合企业风险偏好进行评估。
• 交付风险评估：从安全开发、用户体验、测试和质量保证等维度评估交付过程中的流程与控制。
• 运营风险评估：关注流程优化、风险监控与报告机制的有效性，以及关键风险指标的设置。

毕马威致力于帮助企业建立对智能自动化程序、平台和机器人的有效管理机制，并将风险控制措施整合到解决方案中，以满足内部控制和外部监管的要求，推动企业在数据安全、变更管理、处理完整性、可审计性等方面达到最佳实践。

结语

智能自动化是企业数字化转型的重要驱动力，但其潜在风险不容忽视。企业应通过建立全面的风险治理框架，提升对智能自动化的信任和控制能力，以实现可持续、合规的智能化发展。