2023-07-12-中国信通院-可信AI技术和应用进展白皮书_73页_28mb

可信AI技术和应用进展白皮书2023 总结

1. 摘要

• 人工智能发展：技术飞速进步和应用广泛，但也带来前所未有的挑战，可信AI成为解决这些挑战的关键。
• 可信AI的定义：以安全鲁棒性、隐私保护、公平性和可解释性为核心，注重评估技术和工具的开发。
• 发展阶段：从技术、产业、生态、监管四个维度推动可信AI发展，构建面向大模型的评估体系。

2. 主要内容

2.1 可信AI技术发展背景

• 技术基础：算法、算力、数据持续夯实，推动人工智能落地。
• 新兴技术：大模型和AIGC快速发展，引发全新安全与伦理挑战。
• 治理动态：各国加强政策法规制定，中国成立了行业推进机制和工具平台。

2.2 可信AI四大技术方向

• AI鲁棒性技术：提升 AI 抗恶意攻击、数据缺损失真、生物特征伪造等场景的识别能力。
• AI可解释性技术：提供模型决策过程的可解释，方法包括通用解释器、扰动评估、Attention 等。
• 公平性探索：解决算法歧视、价格杀熟、信息茧房等问题，通过治理、多目标设计、数据调整来提升公正性。
• 数据模型安全与隐私保护：防止数据泄露、隐私挖掘、模型窃取，采用TEE-DP等安全机制，提升防护水平。

2.3 大模型与AIGC的可信挑战

• 生成式攻击风险：对抗性扰动、Prompt窃取、内容虚假等，对AI生成内容的识别和验证需求迫切。
• 大模型自身安全：包括隐私数据泄露、意识形态偏见、模型被篡改或滥用。
• 伦理与伦理挑战：模型数据偏差、内容引导偏见、就业替代、教育公平性缺失。

2.4 可信AI评估体系构建

• 检测维度：包括隐私保护、可解释性、公平性、鲁棒性四个指标。
• 评估方法：标准数据集与真实用户体验结合，构建工具如蚁鉴、RobustBench等。

3. 发展建议与趋势展望

3.1 技术维度

• 强化大模型事实可信与逻辑可控能力，加强数据隐私保护。
• 提升模型的自解释能力，弥合AI与人类之间的理解鸿沟。

3.2 产业维度

• 推动多方协同机制，构建从训练到应用全生命周期的安全保障体系。
• 加强对传统行业的嵌入式可信设计，形成一批落地场景。

3.3 生态维度

• 推动标准体系建设，鼓励开源测评平台开发。
• 培养公众对AI的正确认知，营造可信AI发展氛围。

3.4 监管维度

• 建议分级监管，基于场景制定差异化治理政策。
• 推进技术融合监管，如大模型沙盒监管、MLOps等，并加强公众监督活力。

4. 未来展望

• 研究应用更加均衡：从隐私保护到伦理安全，覆盖原AI安全技术各延伸方向。
• 国际治理机制完善：形成全球化的评估体系，应对AI滥用风险。
• 可信AI外在监管更加全面：构建多维检测机制，保障全流程合法合规。
• 内在动力更加多维：提升人机交互能力，形成人、系统、环境的三元融合机制。