网络安全技术生成式人工智能数据标注安全规范_23页_536kb

《网络安全技术 生成式人工智能数据标注安全规范》（GB/T 45674—2025）总结

核心内容

《网络安全技术 生成式人工智能数据标注安全规范》（GB/T 45674—2025）是针对生成式人工智能（Generative AI）数据标注活动制定的国家标准，旨在规范数据标注过程中的安全要求，防范数据标注引入的安全风险，提升生成式人工智能模型的安全性和可靠性。

该标准适用于生成式人工智能数据标注组织方开展训练数据标注活动，并为数据需求方及第三方机构对数据标注进行检查、验收或安全性评估提供依据。

主要观点

• 数据标注是生成式人工智能训练的关键环节，直接影响模型输出内容的质量和安全水平。
• 数据标注过程中存在多种安全风险，如数据被窃取、数据泄漏、数据投毒、生成含有安全风险内容等。
• 需从平台、规则、人员、核验四个维度构建完整的数据标注安全体系。
• 安全标注应覆盖功能性与安全性两个层面，并需明确标注规则、人员职责及核验机制。

关键信息

1. 数据标注平台或工具安全要求

• 应定期对标注平台或系统进行安全评估并记录；
• 确保平台或系统具有完整的操作日志和系统活动日志；
• 集中开展标注时应提供物理安全环境；
• 非集中标注时应保障设备和网络传输的安全；
• 使用基于生成式人工智能的自动化标注工具时，需符合相关法律法规。

2. 数据标注规则安全要求

• 标注规则应包括标注目标、数据格式、标注方法、质量指标等内容；
• 需分别制定功能性与安全性标注规则；
• 标注规则应明确任务类型，并符合 GB/T 42755—2023 中的标注任务要求；
• 功能性标注规则应包含正反例信息、安全风险识别方法及参考示例；
• 安全性标注规则应指导标注人员对安全风险内容进行安全、合理的响应；
• 标注规则应包含不恰当或错误标注的识别方法、质量核验方法及安全事件应急响应机制。

3. 数据标注人员要求

• 数据标注人员应接受全面的安全培训，内容涵盖标注规则、平台使用、安全风险识别等；
• 培训后需进行安全考核，合格者方可上岗；
• 标注人员应按角色分工，包括执行、审核、仲裁、监督等；
• 标注人员在任务分配中应避免同一人员承担执行与审核职责；
• 离岗或出现安全风险的人员应被取消标注平台及数据的访问权限。

4. 数据标注核验要求

• 安全性标注数据应覆盖主要安全风险场景，每种场景不少于200条；
• 安全性标注比例不低于3%；
• 核验方式包括人工核验、混合核验；
• 核验内容应包括理解正确、问答一致、保证质量；
• 对于发现的问题应进行纠正或重新标注，并跟踪处理结果；
• 每一批标注数据应进行人工抽检；
• 若发现内容不准确或违法不良信息，应作废该批次数据；
• 安全性标注数据中，若未通过核验的数据比例超过5%，该批次数据应作废。

5. 数据标注安全评价方法

• 对数据标注平台、规则、人员、核验等四个部分进行系统性评价；
• 每项评价均包含评价方法、预期结果和结果判定；
• 评价结果为“符合要求”或“不符合要求”，用于指导数据标注活动的安全性评估。

附录内容

附录 A：生成式人工智能数据标注示例

• 提供了功能性标注与安全性标注的示例，包括正例与反例；
• 示例涵盖文本、图片、音频、视频等不同数据类型；
• 反例标注需识别并避免生成违法、不准确、不安全内容。

附录 B：人工智能标注任务类型示例

• 列举了不同数据类型的标注任务示例，如文本、图片、音频、视频、三维时间序列等；
• 每种类型包含具体的标注内容和规则说明，如对象分类、情感标注、语义分割等；
• 提供了标注任务的分类和指导，帮助标注人员理解任务要求。

总结

该标准从平台、规则、人员、核验四个方面系统性地规范了生成式人工智能数据标注的安全要求，明确了数据标注过程中的安全责任、操作流程和评价机制，为保障生成式人工智能系统的安全性提供了重要的技术依据和管理框架。