【炼石图解】炼石图解人工智能生成合成内容标识办法_102页_12mb

《人工智能生成合成内容标识办法》及相关技术标准总结

核心内容概述

《人工智能生成合成内容标识办法》（简称《标识办法》）由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布，自2025年9月1日起施行。该办法旨在促进人工智能健康发展，规范生成合成内容的标识管理，保护公民、法人和其他组织的合法权益，维护社会公共利益。

主要观点与关键信息

1. 《标识办法》的背景与意义

• 人工智能技术快速发展，带来了虚假信息、深度伪造、恶意输出等安全问题。
• 联合国报告指出“损害信息完整性”是人工智能首要风险。
• 《标识办法》作为规范性文件，强调技术与法治的结合，提出中国方案，推动人工智能产业健康有序发展。

2. 技术规则与标准的协同

• 《标识办法》与强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（GB45438-2025）及《网络安全标准实践指南-人工智能生成合成内容标识服务提供者编码规则》构成有机组合。
• 《标识办法》侧重责任链闭环，而《标识标准》聚焦技术锚点，两者共同推动人工智能生成内容的全流程治理。

3. 标识方式

• 显式标识：包括文字、声音、图形等形式，用于提示用户内容为人工智能生成。
• 隐式标识：通过文件元数据等方式，记录内容属性、服务提供者信息等，不易被用户感知。

4. 显式标识的适用范围

• 涉及文本、图片、音频、视频、虚拟场景等生成合成内容，需在内容附近或交互界面添加显著提示。
• 标识内容应包含“人工智能”或“AI”及“生成”或“合成”等要素，确保清晰可辨。

5. 隐式标识要求

• 文件元数据中需包含“生成合成标签”、“服务提供者名称或编码”、“内容编号”等信息。
• 鼓励使用数字水印等技术手段，以提高内容的真实性与可追溯性。

6. 服务提供者的责任与义务

• 明确服务提供者需在服务协议中说明标识方式，并提示用户注意。
• 用户使用传播服务时，需主动声明是否为生成合成内容。
• 禁止恶意删除、篡改、伪造、隐匿标识，或为他人实施上述行为提供工具或服务。

7. 多部门协同监管

• 违反《标识办法》的，由网信、电信、公安、广播电视等主管部门依法处理。
• 强调责任主体明确、义务分配合理，实现上下游主体全覆盖。

8. 《生成式人工智能服务管理暂行办法》

• 由国家互联网信息办公室于2023年8月15日发布，旨在促进生成式人工智能健康发展和规范应用。
• 强调技术发展与安全合规同步，落实创新与依法治理相结合原则。
• 提出对未成年人防沉迷、数据标注、训练数据合法性等具体要求。

9. 技术标准与法律实施

• 《网络安全技术人工智能生成合成内容标识方法》作为强制性国标，规范实施方式。
• 《网络安全标准实践指南-人工智能生成合成内容标识服务提供者编码规则》指导编码规则，确保技术实施的可操作性。

技术与治理的融合

• 技治与法治互嵌运行：通过显隐双标识机制，提升内容辨识度与技术准确性。
• 全流程治理：从内容生成、传播到用户使用，覆盖所有环节，实现技术与法律的协同。
• 降低企业成本：避免强制使用高成本的数字水印等技术，采用文本符号、音频节奏等低成本方式。
• 推动产业合规：通过“生成即标识”的规范，实现产业内生合规，保障安全与发展的动态平衡。

适用范围与实施细节

适用范围

• 适用于生成合成内容服务提供者和内容传播服务提供者。
• 涉及新闻出版、影视制作、文艺创作等活动的，需遵守相关法律法规。

实施细节

• 标识形式：包括显式与隐式标识，具体实施方式见附录。
• 文件元数据格式：要求包含“AIGC”字段，记录内容属性、服务提供者信息、内容编号等。
• 编码规则：服务提供者编码结构为27位，包括格式定义码、主体标识码、服务扩展码。
• 标识义务：服务提供者需在用户协议中明确标识方法，留存日志不少于六个月。

总结

《人工智能生成合成内容标识办法》及相关技术标准构成了我国人工智能治理的重要框架，从法律、技术、编码等多个维度推动生成合成内容的规范化管理。通过细化已有规定、解决关键问题、统筹发展与安全，该制度体系不仅提升人工智能内容的可识别性，也增强了社会对人工智能技术的信任度与合规性，为全球人工智能治理提供中国方案。