商汤：2023大模型伦理原则与实践白皮书-日日新思无邪_33页_1mb

商汤生成式AI伦理原则与治理实践全景总结

伦理原则：三维对齐

• 人类与科技对齐：强调以普适价值观驱动AI发展，促进可持续能源、新农业、新制造，填补“数字鸿沟”，推动全球经济发展。
• 人类与科技对齐：需跨越文化差异，构建人类命运共同体，确保AI技术在全球范围内的包容性发展。
• 人类、技术与环境对齐：主张AI企业需践行ESG理念，关注生态保护，平衡人类需求与地球可持续发展。

生成式AI风险管理原则

1. ⚖️ 数据质量和隐私安全
   • 保障数据质量：数据清洗、标注、增强，过滤恶意数据。
   • 保护隐私：加密技术、访问控制，确保个人信息合规。
2. 🧮 防止虚假信息与不良内容
   • 建立审核与动态监测机制。
   • 采用技术识别虚假内容，强化伦理审查。
3. 📄 尊重版权与知识产权
   • 数字水印与溯源技术保护原创。
   • 建立使用许可机制。
4. 🔐 保障系统安全与鲁棒性
   • 提升安全性与可靠性，完善容错机制。
5. 🔍 增强可解释性与透明性
   • 提高模型可解释性，记录训练日志。
   • 强制透明披露生成内容来源。
6. 🧩 合乎道德伦理
   • 制定伦理准则，避免数据偏见。
7. 💰 加强可问责性
   • 模型版本管理，支持内容溯源。

实践案例：商汤日日新SenseNova大模型体系

• 开源中文NLP、文生图、数字人视频生成等模块。
• 数据治理工具链：
  • 数据脱敏、毒性检测、数据沙箱实现隐私合规。
• 模型全生命周期测试：
  • 对抗性、鲁棒性、安全性、公平性测试。
  • 风险应对能力评估反哺模型迭代。
• 内容治理机制：
  • 多模态内容标记与溯源，结合AI与人工审核。
• 基础设施成果：
  • 数字水印技术支持版权保护，伪造检测能力全球领先。

治理倡议与全球协同

• 呼吁全球共识：推动生成式AI治理工具标准化，减少“失控竞赛”。
• 五点倡议：
  1. 明确定义现实风险，制定底线要求。
  2. 加强治理基础设施建设。
  3. 深化国际合作，协调政策制定。
  4. 动员全社会参与治理能力建设。

结语
商汤以“三维对齐”为核心，构建数据、模型、内容三位一体的治理框架，推出SenseTrust可信AI基建，致力于推动全球生成式AI安全、可信发展，赋能数字文明新时代。