中国人民大学生成式人工智能治理研究报告2026年_77页_3mb

报告摘要

生成式人工智能治理研究报告总结

核心内容概览

本报告系统分析了生成式人工智能（生成式AI）在智能经济发展、侵权责任、人智协作、智慧医疗、社会空间分析与公共治理、双向人机对齐、新闻传播治理等八个方面的应用图景、主要风险与治理路径。报告指出，生成式AI已从内容生成工具演变为连接知识生产、任务执行和组织协同的重要基础能力，治理对象也由模型本体扩展至训练数据、生成内容、应用场景、责任链条和社会影响。治理目标是构建一个促进创新、保障安全、权责清晰、以人为本的体系。

主要观点

生成式AI与智能经济
- 生成式AI正在重塑生产方式、创新方式、商业模式和产业组织，推动智能经济从“技术应用”走向“经济形态重构”。
- 智能经济新形态强调人工智能作为核心引擎、数据作为关键要素、算法作为核心生产力、算力作为新型基础设施。
- 治理重点转向全生命周期管理，包括持续评测、事故报告、场景分级、人工复核和责任追溯。
中外治理路径比较
- 欧盟强调法律义务，美国注重创新基础设施，英国侧重评测证据，新加坡偏好软法工具，日本结合企业指南与经济安全。
- 我国政策以“场景扩散与能力供给”为主，具有地方扩散快、场景牵引强、工具丰富等特点。
- 下一阶段需补强模型透明、训练数据合规、内容凭证、跨区域一致性及国际规则互操作等。
生成式AI侵权责任
- 生成式AI可能引发著作权、不正当竞争和人格权侵害，尤其在信息交互和决策交互场景中风险显著。
- 侵权责任原则上适用过错责任，需明确合理注意义务、通知—必要措施和多主体责任划分。
- 需建立覆盖模型训练、系统部署、服务运营和内容传播的分层注意义务体系。
人智协作
- 生成式AI与人类创造力、价值判断和情感感知加速融合，形成能力、价值和动态协同机制。
- 问题包括模型黑箱、幻觉、意图理解不足、权责不明确和数字鸿沟。
- 治理建议包括加强核心技术研发、完善全流程监管、强化人才培养和资源下沉。
智慧医疗
- 应用场景涵盖居民健康助手、临床诊疗辅助、医疗文书、医学影像、药物研发和公共卫生治理。
- 风险包括医疗幻觉、临床证据不足、数据安全和算法偏倚。
- 治理应加强本地验证、真实世界监测、不良事件报告和全生命周期监管。
社会空间与公共治理
- 生成式AI在空间分析、城市治理、应急管理和公共服务设施布局中具有潜力。
- 风险包括空间幻觉、算法黑箱和历史数据偏见，影响公共决策的准确性、可解释性和公平性。
- 治理需构建权责清晰的空间智能制度体系，发展监管沙盒、第三方审计、一致性检查和风险预警机制。
双向人机对齐
- 对齐指AI适配人类意图、语境和价值，以及人类调适AI能力与局限的动态过程。
- 治理需覆盖提示输入、模型响应和多轮互动全过程，完善风险识别与交互审计机制。
- 需提升公众提示素养，防范过度信任、情感依附和思维外包。
新闻传播治理
- 生成式AI重塑新闻采集、生产、分发与消费机制，提高效率与跨语种传播能力。
- 风险包括虚假信息、来源错配、版权争议、流量收益失衡、合成内容泛滥和公众信任流失。
- 治理应坚持人类编辑责任，建立AI分级使用制度，强化内容凭证和数字水印等基础设施。