网络安全等级保护与安全保卫技术国家工程研究中心：通用人工智能AGI等级保护白皮书_84页_813kb

通用人工智能AGI等级保护白皮书（2023版）总结

1. 引言

• 背景：AGI被视为继移动互联网后的新技术浪潮，预训练大模型是实现通用智能的关键技术，但带来了技术合规、网络安全、隐私保护等新挑战。
• 目标：推动AGI安全发展，服务社会产业，保障国家安全和个人安全。

2. 术语定义

• AGI：通用人工智能，能模拟人类全面智能。
• ANI：狭义人工智能，专注于特定任务（如语音识别）。
• ASI：超越人类智能的强人工智能。
• PLM：预训练大模型，在大规模数据上训练，用于通用任务。

3. AGI安全风险分析

3.1 核心风险维度

1. 基础设施风险：物理攻击、网络入侵、计算环境篡改。
2. 模型与数据风险：供应链攻击、API安全、数据泄露、模型逆向。
3. 应用层风险：应用漏洞、合规风险、滥用误用（如生成虚假信息）。

3.2 数据安全挑战

• 泄露风险：大模型训练数据庞杂，易涉用户隐私。
• 滥用风险：低质量数据影响模型输出，引发监管问题。
• 偏见问题：算法依赖数据，可能导致歧视或意识形态冲击。

4. 等级保护合规需求

4.1 GB/T22239-2019框架

涵盖以下十个方面的要求标准：

1. 物理环境：选址、访问控制、防雷防火等。
2. 通信网络：网络架构、加密传输、边界防护。
3. 区域边界：防火墙、入侵检测、访问控制。
4. 计算环境：身份认证、数据加密、审计机制。
5. 管理中心：集中管控、系统管理、日志留存（6个月以上）。

4.2 关键安全管理

• 三级以上系统要求：定期等级测评（每年至少一次）、安全备案、人员授权制度。
• 运维管理：配置管理、备份恢复、变更控制。

5. AGI赋能等级保护场景

5.1 知识赋能

• 政策法规：智能辅助解读国家标准（如GB/T22239）。
• 标准解析：分层知识抽取，簡化标准执行。
• 定级备案：自动填表、定级指引生成。

5.2 测评赋能

• 系统调研：自动梳理资产信息、绘制拓扑图。
• 现场测评：工具接入指导、漏洞自动分析。
• 报告生成：多模态分析输出整改建议，提升报告质量。

5.3 培训赋能

• 个性化学习：自适应教学路径、多模态辅助培训。
• 专家级支持：实时QA解答，面向复杂场景模拟评估。

6. 结论

• 白皮书系统梳理了AGI发展现状及其带来的多重安全风险，提出以网络安全等级保护为核心的合规框架，并指出AGI可显著提升等级保护各环节的效率与智能化水平，建议立即推进相关技术应用与标准建设 ***。