_人工智能风险治理报告（2024年）_36页_1mb

人工智能风险治理报告（2024）总结

引言概述

• 人工智能技术快速发展，带来经济社会机遇但伴随多维风险挑战。全球高度重视风险治理，报告基于《全球人工智能治理倡议》等，提出“系统治理-风险识别-风险评估-风险应对”的实践框架，旨在实现穿透式风险管控，支持产业界安全应用。

风险认知深化

• 人工智能风险包括内生安全（如数据注入、算法不可解释、模型攻击）和衍生安全（如隐私泄露、就业影响、社会伦理问题），认知向全球融合、前瞻性、系统性和交叉性深化。社会对风险的多维度关注增强，跨国合作和本土化举措日益重要。

全球实践

• 国际层面：联合国、经合组织等国际组织推进治理框架和合作，如AI安全峰会和标准化努力。
• 主要经济体：欧盟通过立法分类风险；美国聚焦国家安全；英国和新加坡强调监管试点和可验证测试。
• 产业组织和企业：推动综合治理框架、安全技术工具的研发与应用，企业通过内部治理、技术合作和风险应对方案强化治理能力。

实践方案

• 全链条治理框架：覆盖数据、算法、软件和基础设施技术层，以及衍生应用层风险。环节包括提升系统治理能力、精准识别风险、科学量化评估风险优先级，以及敏捷应对措施，如标准化测试和动态调整策略。

展望建议

• 加强全球合作，构建互操作性治理网络；优化国内治理体系，推动风险分级和标准化；提升产业界动态治理能力，强化企业内外协同，确保技术发展与社会责任的平衡。