南财智库：2023生成式人工智能发展与监管白皮书-中国AI治理的独立思考_42页_4mb

知识产权侵权风险

• 著作权侵权：大模型训练文本语料可能侵犯他人著作权，尤其在训练数据匮乏或提示词精准时风险更高。法院此前认定“作品创作主体应为自然人”，生成内容若不满足独创性或实质性近似仍可能侵权。
• 侵犯商业秘密：非法数据来源训练或员工误输入企业机密至模型数据库，可引发商业秘密泄露风险。
• 不正当竞争与反垄断：生成内容若与他人商标、文案等相似，可能构成“混淆行为”；技术垄断风险伴随大模型集中化，全球正在酝酿相关监管立法。

算法风险

• 算法黑箱：大模型内部机制不可解释，导致输出结果难以追踪原因，如医疗保险公司因算法未纳入关键因素导致错误理赔。
• 算法歧视与偏见：模型算法规则若存在种族、性别等偏见，可能对特定群体造成不公正待遇。
• 算法决策风险：错误决策可能带来严重后果，如自动驾驶系统错误判断导致交通事故。
• 信息失真风险：训练数据错误或模型推理能力有限时可能生成失真内容，引发误判甚至法律责任。

数据安全与个人信息保护风险

• 个人信息收集：生成式AI训练阶段或应用阶段可能通过爬取网页、用户交互收集个人信息，如某点评网站评价中泄露用户资料。
• 个人信息使用：模型训练以“改善服务”为名收集用户数据违反“最小必要原则”。
• 个人信息权利响应：用户难以行使查阅、更正、删除权，尤其当数据用于大模型训练时难以完全清除。
• 儿童个人信息：使用者未验证年龄导致误收儿童信息，如系统无法识别10岁儿童访问意图。
• 数据跨境风险：企业依赖境外AI技术构成数据出境风险，如支付合规义务、出口管制等。
• 数据泄露与网安全风险：员工滥用模型导致敏感数据泄露；防止“提示语注入攻击”及恶意生成内容需加强防护。

伦理道德风险

• 生成式AI技术偏见、刻板印象或虚假信息扩散风险，难以通过技术手段完全识别。
• 用户或恶意开发者可能利用模型从事破坏性行为，需持续完善监管机制。