Sumsub_亚太AI治理基准报告_56页_8mb

Sumsub 亚太地区数字信任现状：AI 治理基准报告总结

核心内容

本报告聚焦亚太地区企业在 AI 自主性、问责性与可追溯性方面的治理现状，揭示了 AI 在企业中的实际应用与治理能力之间的差距。报告指出，AI 正在越来越多地承担决策和执行任务，但组织在证明这些决策过程和追溯 AI 行为方面仍存在明显短板，导致“问责不对称”成为主要风险。

主要观点

• AI 采用趋势：AI 已从试点阶段进入广泛部署阶段，72% 的组织已在多个职能部门落地 AI。AI 主要用于数据分析、运营和客户服务，但在高风险领域（如支付、合规、反洗钱）的部署仍较为谨慎。
• AI 治理维度：自主性、问责性与可追溯性是 AI 治理的三个核心维度。目前，可追溯性得分最低，仅为 61.0 分，而自主性和问责性得分接近 70 分。
• 问责不对称：组织对 AI 决策承担责任的意愿较强，但缺乏可还原和审计的证据。95% 的受访者表示有信心解释 AI 决策，但仅有 50% 能还原决策路径，38% 具备防篡改审计轨迹。
• 行业差异：金融服务业和 IT 与软件服务业在 AI 治理上表现最佳，分别以 69.6 分和 68.5 分领先。电子商务与出行平台则相对滞后，治理得分较低。
• 市场差异：泰国和菲律宾在治理上表现突出，分别以 70.3 分和 69.6 分位列领先。中国、印度和新加坡则以严格的监管框架和标准化要求推动 AI 治理发展。马来西亚处于从自愿治理向法定监管过渡的阶段。
• 未来趋势：企业与监管机构正在转向更强调可验证责任机制和持续审计的模式。可追溯性将从合规成本转变为竞争优势，成为企业间信任的基础。

关键信息

自主性、问责性与可追溯性

• 自主性：AI 能够在有限人工介入下执行多步骤任务，但其覆盖范围和执行能力仍受限。
• 问责性：组织对 AI 驱动结果的责任归属逐渐明确，但缺乏统一标准和强制机制。
• 可追溯性：可追溯性是当前最薄弱的环节，仅有 50% 的组织能够还原 AI 决策路径，38% 具备防篡改审计记录。

AI 光谱与角色

治理成熟度层级

• 发展中：治理为自愿性和被动应对，AI 使用超出管控范围。
• 进阶：已有正式政策，但可追溯性仍需加强。
• 领先：治理与自主性同步，具备可审计和可还原的 AI 行为。

分行业解读

• 金融服务业：治理得分最高（69.6 分），在可追溯性和问责性方面表现突出。
• IT 与软件服务业：治理得分次之（68.5 分），采用智能体 AI 的比例最高。
• 电子商务与交易平台：治理得分中等（65.4 分），AI 多用于客户服务和销售，但缺乏独立审计。
• 出行与配送平台：治理得分最低（65.6 分），AI 用于调度和路径规划，但缺乏系统性治理。

分市场解读

• 泰国：治理得分最高（70.3 分），依托行业法令和国家级伦理指引。
• 菲律宾：治理得分较高（69.6 分），合规优先，与国际标准对齐。
• 印度：治理得分 68.5 分，受国际标准影响，采用快速部署与自我监管。
• 中国：治理得分 68.0 分，采用严格监管，以市场准入为门槛。
• 新加坡：治理得分 65.6 分，全球首个发布智能体 AI 指引的市场。
• 马来西亚：治理得分最低（62.4 分），即将转向法定监管。
• 香港与澳大利亚：治理得分中等，基于现有法律体系，未制定独立 AI 法案。

未来展望

• 信任基础设施：未来，企业需要建立可验证的 AI 行为追溯机制，以证明 AI 自主操作的合法性。
• 责任机制：责任归属必须在 AI 部署前明确，并与可追溯性机制结合。
• 合规转型：合规模式将从基于纸质的检查清单向持续审计转变，以应对 AI 漂移和错误率上升的问题。
• 技术趋势：身份即服务（IDaaS）、密码学日志记录和 AI 治理框架将成为企业构建信任的关键工具。

AI 治理准备度检查清单

1. 自主性：

   • 梳理所有已投入生产的 AI 系统
   • 明确 AI 能够在无人类介入下执行的最高级别操作
   • 为 AI 能力扩展设定边界
   • 明确哪些操作需人工审批
   • 分阶段部署新增自主能力
   • 保留人工接管或暂停运行的能力

2. 问责性：

   • 为每一项 AI 驱动结果指定明确负责人
   • 记录 AI 系统的用途、运行方式和已知局限
   • 为高风险操作设置审批环节
   • 在系统应用范围变化时重新确认责任归属

3. 可追溯性：

   • 维护所有在用 AI 系统的完整清单
   • 将可还原的决策路径作为系统上线条件
   • 为每一项自主操作保留防篡改审计记录
   • 记录 AI 相关事件及其解决过程
   • 允许审查人员独立还原决策，无需 AI 自行解释
   • 将每一次智能体操作绑定至经过验证的人类身份
   • 引入独立审计或验证机制

Sumsub 如何提供帮助

Sumsub 提供 AI 治理和信任基础设施，帮助企业应对 AI 自主性带来的风险。

AI 副驾驶

• Summy AI：平台原生 AI 调查助手，替代人工追踪流程。
• 模型上下文协议 (MCP)：使智能体能够管理平台的配置层，实时隔离沙箱配置。
• AI 驱动的决策能力：支持 OpenAI ChatGPT 和 Anthropic Claude 的官方连接器。
• 责任绑定机制：将 AI 操作与责任主体（个人或团队）绑定，确保可追溯性。

风险控制措施

• 设备智能与机器人检测：实时追踪设备、会话和行为信号，拦截异常自动化流程。
• 资金搬运防范与风险评分：识别协同运作的资金搬运网络和虚假消费者行为。
• 工作流程编排：通过自然语言查询构建欺诈规则，无需工程工单。

治理成果

• AI 辅助解决的 AML 匹配案例比例：95%
• 每月拦截的欺诈次数：690 万+
• 验证用户身份所需时间：低于 59 秒

总结

AI 正在改变亚太地区的商业运作方式，但治理能力仍落后于其自主性与问责性发展。未来，企业需要在 AI 部署前明确责任归属，并建立可追溯性机制，以应对日益增长的监管和运营风险。Sumsub 提供的 AI 治理工具和信任基础设施，有助于企业实现合规、安全和可审计的 AI 应用。