中国AI治理的独立思考——生成式人工智能发展与监管白皮书-南财智库-2023-42页_1mb

报告摘要

中国AI治理的独立思考总结

核心内容

本白皮书围绕生成式AI的发展、风险、借鉴与实践四个维度，系统分析了生成式AI技术在当前全球范围内的应用现状、面临的挑战以及中国在AI治理方面的独立思考与探索。

主要观点

生成式AI作为人工智能的新范式，正在推动新一轮技术革命，其在内容生成、人机交互、商业应用等领域展现出巨大潜力。
中国在2023年7月发布的《生成式人工智能服务管理暂行办法》（以下简称《办法》）标志着其在AI治理方面从“风险防控”转向“发展导向”，体现了中国对生成式AI的包容与支持。
生成式AI的快速发展带来了诸多风险，包括知识产权侵权、算法歧视、数据安全、伦理道德等问题，需在发展与监管之间找到平衡点。
美国和欧盟在AI治理上各有侧重，美国偏重产业发展与技术推动，欧盟则更强调风险分类与伦理规范。

关键信息

1. 生成式AI的发展现状

算力：算力已成为AI大模型时代的核心竞争要素，训练和推理需求迅速增长，对基础设施提出更高要求。
大模型：大模型成为生成式AI发展的核心驱动力，中国与美国共同占据全球大模型发布量的80%以上，其中中国已有79个10亿参数以上的大模型发布。
应用场景：生成式AI已渗透至办公软件、社交文娱、商业营销、家庭助理、智慧医疗等多个领域，展现出强大的赋能潜力。
商业化：生成式AI正在从技术研发走向商业化应用，但其在具体场景中的落地仍处于初级阶段，需进一步探索商业模式。

2. 生成式AI的风险

知识产权侵权风险：生成式AI在训练和输出过程中可能侵犯著作权、商业秘密和造成不正当竞争。
算法风险：包括算法黑箱、算法歧视、算法决策失误和信息失真等，可能导致不可预见的后果。
数据安全与个人信息保护风险：
- 个人信息保护：AI模型在训练和应用过程中可能收集、使用或泄露用户个人信息，需加强合规管理。
- 数据跨境风险：数据出境和入境需符合不同国家的合规要求，尤其是美国对技术出口的限制，可能影响数据流动。
- 数据安全风险：数据泄露、网络攻击、重要数据处理等风险不容忽视。
伦理道德风险：生成式AI可能引发偏见、歧视、虚假信息等问题，需从技术与制度层面进行防范。

3. 欧美AI治理的借鉴

美国

立法概况：
- 美国重视AI发展，从2016年起出台多部法案与政策，包括《国家人工智能研发战略规划》、《人工智能权利法案蓝图》、《人工智能风险管理框架》等。
- 2023年1月发布的《人工智能风险管理框架》强调可解释性、透明度和问责制，为AI治理提供指导。
- 治理框架由治理、映射、衡量、管理四个模块构成，具有高度灵活性和指导性。

欧盟

立法概况：
- 2018年发布《通用数据保护条例》（GDPR）和《欧洲人工智能战略》，强调数据保护与伦理治理。
- 2021年发布《人工智能法案》立法提案，确立风险分类监管模式，是全球首个针对AI风险分级的综合性法案。
- 2022年出台《数字市场法》和《数字服务法》，对在线平台和数字市场进行监管，间接影响AI发展。
治理框架：
- 以《人工智能法案》为核心，实施风险分级监管，包括不可接受风险、高风险、有限风险和最小风险四个等级。
- 欧盟要求AI产品在发布前进行注册，提供数据来源和训练内容的透明度，并对AI生成内容进行标注和披露。

4. 中国AI治理的实践

立法概况：
- 中国人工智能法草案已提交全国人大常委会审议，生成式AI治理已进入实质性阶段。
- 《办法》强调“发展导向”，鼓励技术创新与应用落地，同时设定合规底线，确保AI服务的安全性。
风险治理框架：
- 中国正在构建符合自身国情的生成式AI风险治理体系，包括技术发展、应用场景、数据安全、合规责任等方面。
- 《办法》提出推动公共训练数据平台建设，加强基础技术自主创新，鼓励企业与机构在AI领域进行合规实践。
- 豁免研发阶段的合规责任，鼓励企业进行技术探索，但强调在应用阶段需严格遵守相关法规。

总结

生成式AI技术的迅猛发展为中国AI治理带来了机遇与挑战。中国通过《生成式人工智能服务管理暂行办法》展现出对AI发展的支持态度，同时也明确了治理底线。在风险治理方面，中国正在构建一套涵盖知识产权、算法、数据安全和伦理道德的综合框架，与欧美相比，更强调技术发展与应用场景的结合。未来，中国在AI治理上的独立思考，将为全球AI治理提供新的思路与实践参考。

展开完整摘要