人工智能应用伦理安全指引1.0_9页_296kb

人工智能应用伦理安全指引 1.0 总结

摘要

人工智能技术正以前所未有的速度发展，生成式人工智能、智能体等新兴技术不断涌现，深刻影响社会运行、个人生活及生产方式。然而，其快速发展也带来了诸多伦理安全挑战。为确保人工智能安全可控、发展与安全并重，本文件提出了人工智能应用伦理安全的理念与原则，明确了应用开发、服务提供与使用过程中的基本要求，旨在为相关方提供实践指引，共同推动人工智能向有益、安全、公平的方向发展。

核心内容

• 人工智能应用伦理安全：指在人工智能应用过程中，从安全影响角度出发，保障伦理价值与社会秩序的规范与准则。
• 伦理安全理念：强调伦理安全要求应贯穿人工智能应用全过程，以造福人类、服务社会、可持续发展为宗旨。
• 伦理安全原则：涵盖增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治、普惠共享等九项核心原则。

主要观点

• 人类主导权：人工智能应用应确保人类在关键节点的监督、干预与纠偏能力，防止其超越人类的理解与控制。
• 社会秩序与信任：人工智能在社会运行与行为决策中的应用可能对公共秩序、社会信任产生冲击，需加强透明度与可追溯性。
• 个体与社会影响：人工智能的广泛应用可能影响个体认知与社会价值体系，需关注过度依赖与社会脱节问题。
• 公平与包容：人工智能应避免歧视与偏见，确保对所有群体（包括特殊群体）的公平对待。
• 安全与可控：人工智能应用需确保在人类控制之下运行，建立应急机制与人工干预手段，防范脱离监督或威胁人类生存的风险。
• 共治与共享：推动多方协同治理，加强国际合作与技术标准对接，构建开放、共享、普惠的人工智能生态。

关键信息

1. 范围

本文件适用于组织和个人开展人工智能应用活动，也为相关主管部门、行业组织和机构提供治理参考。

2. 规范性引用文件

• GB/T 25069：信息安全技术术语
• GB/T 41867：信息技术人工智能术语

3. 术语定义

• 人工智能应用：具有功能特性的人工智能在利益相关方场景中运行以实现预期结果。
• 应用开发者：从事人工智能应用理论研究、技术创新、数据归集、模型开发等活动的组织或个人。
• 服务提供者：在工作与生活场景中向具体对象提供人工智能服务的组织或个人。
• 使用者：使用人工智能系统、产品或服务的组织或个人。

4. 伦理安全影响

• 人类主导权、公共秩序、个体认知、社会分化、生命健康、可持续生态等方面均可能受到人工智能应用的影响。

5. 伦理安全指引

6.1 通用指引

• 预评估人工智能应用目的与影响
• 构建符合中国国情与文化的伦理规范体系
• 正确认识人工智能能力边界与潜在风险
• 保留人类对关键环节的判断与干预
• 保护隐私与个人信息
• 关注偏见、歧视及弱势群体权益
• 提升伦理素养与安全风险提示能力
• 开展伦理安全影响评估
• 建立适用边界与责任安排
• 保障公共服务的公平性与可及性

6.2 应用开发指引

• 统筹伦理安全，避免单纯以性能驱动开发
• 遵守科技伦理审查要求
• 正确认知“幻觉”等问题，加强提示说明
• 全过程贯彻安全可控、公平公正、隐私保护理念
• 针对易受影响群体进行专门设计
• 提高开发过程透明度，提供安全配置与部署指南
• 建立事故信息追溯机制
• 推动多方合作与伦理安全风险处置

6.3 服务提供指引

• 引导社会正确认知服务边界与风险
• 提供符合伦理审查要求的产品
• 服务涉及关键领域时，人工智能应仅作为辅助工具
• 提供便捷的拒绝、干预与停止机制
• 遵循合法、正当、必要、最小化原则处理隐私数据
• 显著提示数据收集状态与关闭方式
• 建立事故应急处置机制
• 提升服务便利性与公平性

6.4 应用使用指引

• 增强对人工智能的理性认知与使用习惯
• 避免过度依赖与沉迷，保持现实交往
• 通过人工智能促进学习与创造力发展
• 合法使用人工智能，不侵犯他人权益
• 保护自身敏感信息，防范信息泄露
• 积极履行人工智能伦理义务，参与生态建设

结论

本文件旨在为人工智能应用提供伦理与安全的指导框架，强调技术发展与伦理治理的同步推进。其核心目标是确保人工智能在服务人类、推动社会进步的同时，避免潜在风险，维护公平、安全与可持续发展的社会环境。