2024-12-28-中国信通院人工智能风险治理报告2024年-构建面向产业的人工智能安全治理实践方案37页_1mb

中国信息通信研究院人工智能研究所2024年12月发布《人工智能风险治理报告》，系统梳理人工智能技术发展面临的多重风险及治理路径。报告指出，人工智能作为引领科技革命的核心技术，其应用已渗透工业、医疗、教育等领域，但技术跃迁伴随数据安全、模型风险、伦理争议等挑战。全球范围内，人工智能相关风险事件呈指数级增长，2023年达123起，超20倍于2013年，且影响范围持续扩大。各国通过政策法规、国际合作、产业实践等多维探索治理方案，形成“系统治理-风险识别-风险评估-风险应对”框架，旨在实现穿透式风险管控与全链条流程管理的融合。

报告强调人工智能风险呈现内生性与衍生性交织特征。内生风险包括数据污染、算法不可解释性、模型攻击脆弱性等技术层面问题；衍生风险则涉及隐私泄露、就业替代、社会舆论操控等应用层面问题。例如，深度伪造诈骗案涉案金额达2亿港元，开源模型漏洞可能跨境扩散。风险认知正向全球化、前瞻性、系统性与协同性深化，国际组织如联合国、OECD、ITU等推动标准制定与风险治理合作，中国通过《全球人工智能治理倡议》《人工智能能力建设普惠计划》等贡献治理框架，同时完善国内政策体系。

产业界治理实践呈现三大趋势：一是技术快速迭代要求治理工具灵活响应，企业需通过自律机制弥补法律滞后；二是跨境应用需强化国际合作，如联合测试、互操作性标准等；三是复杂产业链需协调多方责任，包括数据供应商、模型开发者及应用方。目前全球已有317项政策法规和355项技术标准，中国亦通过备案审查、安全评估等举措推进治理。

针对产业界，报告提出五项实践方案：1. 建立全链条风险治理框架，覆盖技术开发、部署及应用各阶段；2. 提升系统治理能力，需制度完善、文化建设及外部协作；3. 构建精准识别机制，通过红队测试、蓝队防护及持续监控应对多维风险；4. 完善科学评估体系，量化风险等级并动态调整优先级；5. 完善敏捷应对方案，结合成本-收益分析制定分级响应策略。

展望部分建议：1. 加强全球治理合作，推动多边规则制定与信息共享；2. 优化国内治理体系，建立风险数据库及智能化监管工具；3. 推动行业标准化与动态化，融合技术与政策制定；4. 强化内外协同机制，平衡技术创新与社会责任。报告指出，人工智能治理需兼顾安全与发展，通过多元共治实现风险可控与技术普惠。