炼石-图解国家网信办《生成式人工智能服务管理办法（征求意见稿）》V1.0.0-2023.4-29页_4mb

《生成式人工智能服务管理办法（征求意见稿）》总结

核心内容

《生成式人工智能服务管理办法（征求意见稿）》是我国首部生成式人工智能服务领域的专门立法，旨在促进生成式人工智能技术健康发展和规范应用，通过明确监管框架、权责划分、合规义务及处罚机制，实现技术发展与安全合规的同步推动。

主要观点

• 立法目的：构建完善的生成式人工智能法制化监管体系，保障用户权益、维护国家安全和社会秩序。
• 适用范围：适用于面向中华人民共和国境内公众提供生成式人工智能服务的组织和个人，包括AIGC（人工智能生成内容）技术研发商和应用开发商。
• 鼓励创新：支持人工智能算法、框架等基础技术的自主创新、推广应用和国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
• 数据合规：强调生成式人工智能服务提供者的数据合规义务，包括训练数据来源合法性、人工标注规则、用户身份信息保护、生成内容标识等。
• 用户保护：明确用户需提供真实身份信息，防止用户过分依赖或沉迷生成内容，保护用户隐私和合法权益。
• 监管机制：建立安全评估、算法备案、投诉处理、内容整改等机制，以确保生成式人工智能服务的合法、合规和合理使用。
• 法律责任：对违反《办法》规定的行为设定处罚措施，包括警告、通报批评、罚款、暂停或终止服务，甚至追究刑事责任。

关键信息

一、立法依据与适用范围

• 立法依据：《网络安全法》《数据安全法》《个人信息保护法》等。
• 适用对象：研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的组织和个人。
• 生成式人工智能定义：基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

二、提供者义务

1. 法律法规遵循：生成内容应体现社会主义核心价值观，不得包含违法违纪、扰乱社会和经济秩序的内容。
2. 防止歧视：在算法设计、训练数据选择、模型生成和优化等环节，防止种族、民族、信仰、国别、性别、年龄、职业等歧视。
3. 公平竞争：尊重知识产权、商业道德，不得利用技术优势实施不公平竞争。
4. 内容真实性：确保生成内容真实准确，防止虚假信息传播。
5. 用户隐私保护：不得非法获取、披露、利用个人信息和隐私、商业秘密，不得根据用户输入信息进行画像分析。
6. 用户身份核验：按照《网络安全法》要求，用户需提供真实身份信息。
7. 防止沉迷：采取适当措施防范用户过分依赖或沉迷生成内容。
8. 内容整改：发现或用户举报不合规内容后，应在3个月内通过模型优化训练等方式防止再次生成。

三、安全评估与算法备案

• 安全评估：适用于具有舆论属性或社会动员能力的信息服务上线或功能变更，需向国家网信部门申报安全评估。
• 算法备案：按照《互联网信息服务算法推荐管理规定》履行备案手续，备案信息变更需及时更新。

四、监管机制与处罚措施

• 投诉处理机制：提供者需建立用户投诉接收处理机制，及时处置用户请求。
• 内容标识：对可能造成公众混淆或误认的生成内容进行显著标识，包括图片、视频等内容。
• 信息披露：提供者需披露预训练和优化训练数据的来源、规模、类型、质量等信息，以及人工标注规则、基础算法等。
• 违规处理：违规用户将被暂停或终止服务，违规提供者将面临罚款、警告、通报批评，严重者可能被追究刑事责任。

五、国际对比

• 美国：研究对ChatGPT等AI工具实行检查，考虑认证程序。
• 加拿大：调查OpenAI是否违规收集、使用和披露个人信息。
• 英国：发布对生成式AI使用的8个问题。
• 意大利：暂停ChatGPT服务，调查其是否违反隐私规则。
• 德国/西班牙/瑞典：态度不一，德国可能暂停服务，西班牙未收到投诉，瑞典未计划禁止。
• 印度：不打算监管人工智能，认为其为“重要和战略性”领域。

结构清晰内容

1. 总体原则

• 立法目的和依据
• 适用范围和关键定义
• 鼓励技术创新、安全可信

2. 提供者数据合规义务

• 遵循法律法规和公序良俗
• 人工标注规则、人员培训、抽样检查
• 不得生成歧视性内容、不得实施不公平竞争
• 不得非法留存用户输入信息、不得向他人提供、不得进行画像分析

3. 监管审查义务

• 安全评估和备案
• 投诉处理机制
• 整改期限
• 信息披露
• 用户指导
• 违规用户处理

4. 处罚及实施

• 违规处罚
• 实施日期

总结

《生成式人工智能服务管理办法（征求意见稿）》为生成式人工智能服务提供了全面的监管框架，强调数据合规、用户权益保护、内容真实性、防止歧视和沉迷等关键方面。通过建立安全评估、算法备案、投诉处理、内容整改等机制，确保生成式人工智能服务在合法、合规、合理的前提下发展。同时，与多国在AIGC数据安全监管方面保持同步，体现了我国对人工智能技术发展的高度重视和规范管理的意图。