中国互联网协会-网络运营者针对未成年人的有害信息防治体系建设框架-2020.9.24-17页_372kb

网络运营者针对未成年人的有害信息防治体系建设框架总结

核心内容

本文件旨在为网络运营者构建一套针对未成年人有害信息防治的体系框架，涵盖防治技术、防治手段和防治保障三个方面，为网络运营者提供系统的指导和参考，以保障未成年人在网络环境中的健康成长。

主要观点

• 网络运营者应认识到未成年人有害信息防治是一项综合、复杂的工作，需联合多方力量，持续投入技术和资源。
• 防治体系应覆盖有害信息的发现、防护、治理全过程，实现事前预防、事中防护和事后治理。
• 未成年人网络安全教育是防治工作的重要组成部分，需通过课程、工具、宣传等方式提升未成年人及监护人、教师等群体的网络素养与安全意识。
• 未成年人专属产品和服务的开发是防治体系中的关键环节，如“青少年模式”等，以限制不适宜内容的访问和使用。
• 防治工作需依赖先进的技术手段，如人工智能、OCR识别、大数据处理等，提升信息检测与分类的效率和准确性。
• 防治体系的建立需要多方面的保障，包括资源投入、人才培养、标准制定、合规运营和安全检测。

关键信息

5.1 框架概述

防治体系分为三部分：

1. 防治技术：包括有害信息发现、网络行为识别、信息处理基础技术、基础库建设等。
2. 防治手段：包括预防、防护、治理三个层面，分别对应事前、事中和事后措施。
3. 防治保障：涵盖资源保障、人才培养、标准规范、合规运营和安全检测。

5.2 防治技术

• 有害信息发现技术：包括多媒体内容识别、AI算法设计、OCR识别、相似度识别等。
• 网络行为识别技术：用于识别恶意用户行为，如恶意注册、发布有害信息等。
• 网络信息处理基础技术：包括数据采集、高速流量处理、大数据存储与查询等。
• 基础库建设：包括样本库、特征库等，用于支持信息检测与分类。

5.3 防治手段

5.3.1 预防

• 开设网络安全课程，提升未成年人及监护人、教师的网络安全意识。
• 开发网络素养教育工具，如音视频教育产品、教育功能游戏等。
• 加强平台生态安全治理，制定内容发布规则，提升信息内容生产者的安全意识。
• 通过宣传推广，增强未成年人及社会各方对有害信息防治的认知和参与。

5.3.2 防护

• 未成年人专属产品/模式：如“青少年模式”，限制不适宜内容访问和功能使用。
• 举报机制：设立举报入口，配备专门人员，及时处理举报内容。
• 安全系统：包括内容安全机器检测系统、人工审核系统、样本数据标注系统、内容安全验证工具、内容安全统计分析系统等。
• 个人信息保护：严格限制未成年人个人信息的收集和使用，确保其隐私安全。

5.3.3 治理

• 有害信息治理：建立管理制度、管理机构，结合机器检测与人工审核，及时清除有害信息。
• 协助犯罪打击：为执法机关提供技术支持，打击制作、发布、传播有害信息的违法行为。
• 再次教育：通过视频教学、案例分析、警示参观等方式，提升未成年人的法律意识和网络素养。

5.4 防治保障

• 资源保障：需投入经费、人力、技术等资源，确保防治工作的持续性和有效性。
• 人才培养：加强复合型人才的培养，提升治理人员的专业能力。
• 标准规范：参与相关标准的制定与推广，如内容分级、安全测评等。
• 合规运营：确保业务运营符合相关法律法规要求。
• 安全检测：在产品/服务上线前进行安全检测，确保内容安全和功能防护能力。

相关方及工作维度（附录A）

有害信息影响分析维度（附录B）

• 引诱未成年人犯罪
• 引诱未成年人自杀
• 影响未成年人性心理和性健康
• 网络欺诈
• 侵害未成年人隐私
• 网络欺凌

实践案例（附录C）

• 安全课实践：腾讯联合“扫黄打非”工作小组开展网络安全进课堂活动。
• 网络素养教育支持：腾讯发布《繁星特刊》系列文章，引导未成年人安全上网。
• 平台生态安全建设：腾讯举办阳光媒体人大会，提升平台内容安全管理水平。
• 宣传推广实践：腾讯游戏推出成长守护平台，引导未成年人健康上网。
• 安全系统支持实践：作业帮推出青少年信息安全综合防护平台，利用AI和大数据技术。

举报流程示例（附录D）

1. 信息举报：用户通过平台举报入口提交有害信息。
2. 信息审核：平台审核人员对举报内容进行专业判断。
3. 处置归档：对有害信息进行处理并归档。
4. 配合执法：依据法律法规配合执法机关工作。

网络色情信息分类示例（附录E）