生成式人工智能服务交易合规评估指引_55页_6mb

生成式人工智能服务交易合规评估指引总结

核心内容概述

《生成式人工智能服务交易合规评估指引》由深圳数据交易所牵头编写，旨在为生成式人工智能服务交易相关方提供一套可操作的评估标准，涵盖主体合规、标的合规、流通合规及评估方法等核心内容。该指引适用于交易主体、服务使用者、专业第三方服务机构、数据交易机构及主管部门，为交易活动提供合法、安全、诚信与权益保障四个维度的评估框架。

主要观点

1. 合规评估的四个维度：合法、安全、诚信、权益保障。
2. 评估框架：评估分为准备、实施、报告三个阶段，包含主体、标的、流通三方面评估。
3. 法律依据：引用多项国家标准和法律法规，如GB/T 25069—2022、GB/T 35273—2020、GB 45438—2025等。
4. 风险防范：针对生成式人工智能服务可能带来的安全风险，如违法不良信息、歧视性内容、商业违法违规、侵犯他人合法权益、无法满足特定服务类型的安全需求等，提出具体防范措施。

关键信息

一、范围

• 本指引适用于生成式人工智能服务交易相关方的合规评估。
• 适用于主管部门和监管部门对交易活动的监督与管理。

二、规范性引用文件

• 引用多项国家标准及地方规范，包括但不限于：
  • GB/T 25069—2022 信息安全技术 术语
  • GB/T 35273—2020 信息安全技术 个人信息安全规范
  • GB/T 45654—2025 网络安全技术 生成式人工智能服务安全基本要求
  • GB 45438—2025 网络安全技术 人工智能生成合成内容标识方法
  • DB4403/T 564—2024 数据交易合规评估规范

三、术语与定义

• 生成式人工智能服务：向公众提供生成文本、图片、音频、视频等内容的服务。
• 训练数据：用于训练机器学习模型的输入数据。
• 大模型：基于大量数据训练得到、具有复杂计算架构的深度学习模型。
• 敏感个人信息：一旦泄露或非法使用，易导致自然人权益受损的信息。
• 重要数据：可能直接危害国家安全、经济运行、社会稳定等的数据。
• 违法和不良信息：包括虚假有害信息、暴力、淫秽色情、民族歧视等。

四、评估原则

1. 合法原则：评估活动应依法合规开展。
2. 客观公正原则：评估应基于真实、准确的证据。
3. 保密原则：评估人员应对评估信息保密。

五、评估框架

• 评估过程分为评估准备、评估实施、评估报告三个阶段。
• 评估框架图见图1，涵盖主体、标的、流通三个评估环节。

六、主体合规评估

合法维度

• 交易主体需具备合法资质，如ICP备案、算法备案等。
• 若涉及特殊行业，需取得相应许可或备案。

安全维度

• 评估交易主体是否建立安全管理体系，包括数据安全、系统安全、使用安全。
• 包括算法安全自评估、数据安全风险评估、网络安全等级保护等。

诚信维度

• 核查交易主体是否提交真实、准确材料。
• 检查是否存在违法、违规行为，如行政处罚、刑事处罚、被诉案件等。

权益保障维度

• 评估交易主体是否保障各方合法权益，包括服务使用者、合作方、知识产权权利人、个人信息主体等。
• 包括第三方权益保护机制、服务使用者权益保障制度、未成年人保护措施等。

七、标的合规评估

合法维度

• 包括训练数据来源合法性、数据内容审查、数据标注规则、模型合规性等。
• 评估训练数据是否合法、安全、可追溯。

安全维度

• 包括数据存储、传输、访问安全措施，数据分类分级，数据审计与监控等。
• 评估模型鲁棒性、安全性、漏洞监察与修复机制。

诚信维度

• 核查交易标的描述、适用范围、计费方式等是否真实、准确。
• 是否提供无违法违规承诺、无重大风险变化承诺等。

权益保障维度

• 包括数据主体权利告知、权利请求响应、未成年人保护、投诉举报机制等。
• 评估内容标识、内容安全审查、内容过滤、违法内容处置等。

八、流通合规评估

合法维度

• 评估数据流通是否符合法律法规，如数据出境、出口管制等。
• 评估是否完成安全评估、备案或登记手续。

安全维度

• 评估流通过程中的安全措施，如网络安全等级保护、数据审计、内容安全监控等。

诚信维度

• 评估交易合同是否公平合理，是否包含相关责任条款。
• 评估承诺函是否符合合规要求。

权益保障维度

• 评估是否公开接受投诉举报，是否建立有效的处理机制。
• 是否保障第三方权益，包括知识产权、个人信息、内容安全等。

九、评估方法

• 评估准备：组建评估团队，制定评估方案，收集和分类评估资料。
• 评估实施：分主体、标的、流通三个维度进行评估，记录问题并反馈。
• 评估报告：编制评估报告，包含评估过程、主要发现、结论与建议。
• 跟踪与改进：交易主体根据评估结果制定改进措施并跟踪实施情况。

附录内容概要

A. 评估概述

• 包括评估目的、依据、对象和范围、评估结论概要等。

B. 建议文档

• 提供主体、标的、流通合规评估所需的建议文档清单，包括资质证明、安全管理制度、承诺函、数据操作日志等。

C. 主要安全风险

• 违反社会主义核心价值观的内容：如煽动颠覆国家政权、传播虚假有害信息等。
• 歧视性内容：如民族、信仰、性别、年龄等歧视。
• 商业违法违规：如侵犯知识产权、泄露商业秘密、实施垄断行为等。
• 侵犯他人合法权益：如侵害肖像权、名誉权、隐私权等。
• 无法满足特定服务类型的安全需求：如医疗、金融、自动驾驶等场景下的安全风险。

D. 典型应用场景下的违规行为

• 移动互联网（智能设备）：未获用户同意收集个人信息、泄露隐私等。
• 汽车：未进行安全评估、生成内容存在交通安全风险等。
• 金融：未履行适当性义务、虚假营销、未留存必要记录等。
• 医疗：未匿名化处理医疗信息、未进行伦理审查、生成内容误导等。
• 人工智能体：非法使用用户数据、执行违法指令、擅自读取设备数据等。

E. 备案与许可手续

• 提供生成式人工智能服务涉及的常见备案与许可事项，如互联网信息服务备案、算法备案、数据出境安全评估等。
• 包含法律依据、完成时间、涉及主体等详细信息。

结语

本文件强调生成式人工智能服务交易的全流程合规性，为交易各方提供了系统的评估框架与具体的操作指引，以降低法律风险，保障数据安全与用户权益。