2026中国人工智能安全全景报告_127页_7mb

中国AI安全现状总结（2026年版）

核心内容概述

本报告《State of AI Safety in China》由Concordia AI于2026年7月发布，总结了2025年7月至2026年6月期间中国在AI安全与治理方面的进展。报告涵盖五大领域：国内治理、国际治理、技术安全研究、专家观点与行业治理。

主要观点

1. 国内治理

• 政策导向：中国将“AI Plus”作为国家层面的AI发展战略，强调AI技术在各行业的扩散以推动经济增长，同时持续强化安全与风险管理。
• 从内容控制转向行动控制：随着自主代理AI（如OpenClaw）的兴起，中国监管重心从控制AI生成的内容转向控制AI的行为及其对社会的影响。
• 重点法规：
  • 《人工智能交互服务管理办法（试行）》于2026年7月生效，对AI伴侣服务提出具体要求，包括自杀干预、成瘾预防及对未成年人和老年人的保护。
  • 《人工智能伦理审查办法》要求高校、科研机构和企业设立并注册伦理审查委员会，已在10个省份开展试点。
• 技术标准：中国正在制定一系列针对AI生成内容的标记和水印标准，以应对虚假信息传播等风险。
• 前沿风险：尽管具体措施仍有限，但中国高层官员（包括习近平）已开始关注“技术失控风险”，并提出“断路器”和“安全停止开关”等概念。《网络犯罪法草案》要求AI服务提供商监控恶意代码的大规模生成并上报。

2. 国际治理

• 多边合作：中国支持联合国新设的两个AI治理机制，包括独立国际AI科学小组和全球AI治理对话，并提议成立“世界AI合作组织（WAICO）”。
• 中美对话：中美于2026年5月宣布启动政府间AI对话，结束了两年的官方双边交流停滞，可能推动更实质性的合作。
• 非官方对话：中西方非官方对话在AI安全、生物安全及开源AI等领域产生了实质性成果，包括双语术语表和风险评估中心的提议。

3. 技术安全研究

• 研究增长：中国在AI安全领域的研究产出显著增长，尤其在代理AI安全方面最为活跃。
• 研究方向：
  • AI生成内容检测与水印技术仍是高产出领域。
  • 机制可解释性（Mechanistic Interpretability）从边缘话题发展为约15%的研究产出。
  • 前沿风险（如生物安全）的研究仍较少，但政策关注度上升。
• 研究机构：研究主要集中在高校（如清华大学、北京大学、复旦大学）和国家支持的实验室（如上海AI实验室），其中上海AI实验室参与了约10%的论文。

4. 专家观点

• 代理AI安全：专家们关注代理AI可能带来的风险，包括人类监督的削弱、递归自我改进及物理实现（如机器人）。
• 安全与生物风险：专家深入分析了AI在网络安全和生物安全方面的潜在威胁，但总体上对开源AI持支持态度，同时建议加强监管能力。
• 政策导向：专家普遍认为，AI安全应成为政策持续关注的重点，尤其是在应对技术失控和系统性风险方面。

5. 行业治理

• 行业合作：中国AI产业联盟（AIIA）推动了代理AI产品的自愿安全承诺，并在2026年4月扩展至云端代理。
• 安全透明度：企业层面的安全透明度仍较低，仅少数公司（如DeepSeek、Moonshot AI）公开了安全评估结果，但旗舰产品如DeepSeek-V4和Kimi K2.5未提供评估信息。
• 安全基准：AIIA推出了AI Safety Benchmark 2.0，新增了模型欺骗、失控、危险领域滥用及代理风险等类别。

关键信息

• 政策趋势：从2023年起，中国AI政策从内容控制转向行为控制，强调“全生命周期风险管理”。
• 风险分类：报告依据国际AI安全报告（2026）将风险分为恶意使用、系统故障和系统性风险三类，其中前沿风险（如生物安全、网络攻击）被特别关注。
• 技术发展：中国AI模型在生物武器开发相关测试中表现优异，但具体风险研究仍处于早期阶段。
• 治理结构：中国AI安全治理涉及政府、行业和学术机构，政策制定与实施并行，但透明度和执行力度仍有待提高。

附注

• 本报告由Concordia AI发布，该机构是一家致力于推动AI安全的社会企业，其分析基于客观数据，但需注意潜在的利益冲突。
• 报告内容参考了中国多个政策文件、法规及专家观点，旨在提供全面的AI安全现状概述。

总结

中国在AI安全与治理方面展现出从内容控制向行为控制的转变趋势，政策制定与行业实践同步推进。随着自主代理AI的发展，中国开始关注其对社会、经济及安全的深远影响。同时，中国积极参与国际AI治理，推动多边合作，但与美国在治理方式上存在显著差异。技术安全研究在高校和国家实验室中快速增长，尤其在代理AI领域，但整体透明度和标准化仍需加强。