2024-12-24-中国信通院-人工智能风险治理报告（2024年）_37页_1mb

人工智能风险治理报告（2024）总结

本报告由中国信息通信研究院人工智能研究所撰写，旨在为产业界构建面向人工智能安全治理的实践框架。

一、概述

人工智能技术推动社会经济变革的同时，也带来了多样化风险挑战。全球范围内AI治理进程加速，涵盖国际合作、法律政策、产业自律等方面。中国积极参与国际治理，提出“中国方案”，强调安全与发展并重。报告指出，当前治理模式需加快落地，构建贯穿技术全生命周期的治理体系。

二、人工智能风险认知渐进深化

人工智能风险包括内生安全（技术层面）与衍生安全（应用层面），二者交织影响。内生安全涉及数据、算法、软件、基础设施四个维度的安全问题；衍生安全则在个人隐私、就业结构和社会稳定等方面带来挑战。同时，全球对AI风险的认知正向多维度深度融合发展，从全球性协同、前瞻性研判转向系统性分析与交叉性联动。

三、人工智能风险治理全球实践

国际层面不断推进治理合作，如联合国组建AI高级别咨询机构，发布治理框架；金砖国家开展AI治理合作，新型国际行动倡议逐渐增多。各经济体的做法也呈现差异化特点，以欧盟的四分法分级治理、美国的安全技术聚焦与监管试点、新加坡的事前事后结合治理为代表。

四、面向产业的人工智能风险治理实践方案

报告提出了一套系统化的治理框架，包含四个核心环节：

1. 构建全链条风险治理框架：涉及制度完善、文化建设、外部协作；
2. 提升系统治理能力：覆盖设计、开发、测试、部署与运行全周期；
3. 设立精准风险识别机制：从技术层和应用层八个维度动态监测；
4. 健全科学风险评估体系：量化可能性和影响程度，排序优先级；
5. 完善敏捷风险应对方案：根据风险类型采取规避、缓解、接受或转移策略。

五、展望建议

为推动治理迈向更广范围与更深层次，提出了四点建议：

1. 促进全球合作：通过多边框架推动普惠性治理规则制定；
2. 优化治理体系：建立全国统一的风险治理数据库和智能化监管机制；
3. 推动标准化与动态化：推动行业治理标准落地，强调治理机制的动态适配性；
4. 强化内外协同：整合企业内外部治理资源，促进责任共担。

报告强调，AI安全部署与应用必须坚持“技术发展与安全治理同步推进”原则，为构建安全、可靠、可持续的AI生态系统提供系统解决方案。