中国信通院-人工智能治理白皮书-2020.9-103页_1mb

人工智能治理白皮书总结

核心内容

人工智能治理已成为全球关注的焦点，其治理机制涵盖伦理规范、技术应对和法律法规等多个层面。人工智能作为新一代技术，具有通用目的性、算法黑箱性和数据依赖性等特征，这些特性使其在推动社会进步的同时，也带来了广泛的风险和挑战，包括社会稳定、企业合规、个人权益等方面。

人工智能治理需要构建“柔性的伦理”与“硬性的法律”相结合的体系，以实现技术发展与社会价值的平衡。全球正在从多个层面推动人工智能治理，包括国际组织、各国政府、行业联盟和企业等多元主体的协同参与。白皮书还展望了人工智能治理的未来发展方向，强调包容、弹性、多层次治理路径的构建。

主要观点

• 人工智能技术特性：通用目的性导致风险普遍，算法黑箱性导致过程难以解释，数据依赖性导致结果不可控。
• 人工智能引发的风险：
  • 社会维度：冲击就业、影响政治、危及公共安全。
  • 企业维度：审核能力不足、责任划分不清、知识产权保护缺失。
  • 个人维度：算法偏见、隐私泄露、人格尊严受损。
• 人工智能治理新挑战：
  • 专业化：需要建立专业治理团队。
  • 多元化：治理主体应涵盖政府、企业、公众等。
  • 敏捷化：治理需适应技术快速迭代。
  • 全球化：需要国际共识与合作。

关键信息

一、人工智能开辟治理新需要

• 人工智能时代兴起：人工智能技术已进入第三次浪潮，成为科技革命和产业变革的核心驱动力。
• 人工智能驱动经济发展：预计到2030年，全球生产总值将增长14%，我国劳动生产率将提高27%。
• 人工智能提升社会生活质量：在教育、医疗、养老等领域广泛应用，推动个性化、智能化服务。

二、全球构建人工智能治理机制

• 治理目标：科技造福人类，平衡创新与治理。
• 治理模式：多元主体协同治理，包括政府、国际组织、行业组织、企业、公众等。
• 治理手段：多层次、多样化的治理举措，包括伦理约束、技术应对、规范立法等。

三、以伦理为导向的社会规范体系

• 国际层面：各国和国际组织推动全球性伦理倡议，如联合国、G20、OECD等。
• 国家层面：各国在人工智能伦理方面各有侧重，如美国关注国家安全，欧盟强调可信人工智能，德国聚焦自动驾驶伦理，中国倡导负责任的人工智能。
• 企业层面：科技公司纷纷制定伦理原则，设立伦理委员会，构建伦理实践机制。
• 伦理体系构建：伦理规制已从原则走向体系，分为伦理使命、伦理原则、实施细则三个层次。

四、以法律为保障的风险防控体系

• 全球立法趋势：人工智能立法逐步从慌乱走向理性，从源头治理走向综合治理，从粗放治理走向精细治理。
• 数据与算法立法：数据和算法成为人工智能立法的首要命题，GDPR等法规推动数据治理。
• 场景化立法：在自动驾驶、深度伪造、智能金融、智能医疗等场景下，各国逐步完善相关立法。

未来发展方向

• 坚持包容、弹性的治理理念：适应技术发展，避免过度监管。
• 构建不同阶段的治理路径：
  • 近期：加快制定产品和服务标准，推动“数据治理”。
  • 中远期：调整责任法律制度，实现法律与伦理相衔接。
• 打造多元共治的治理机制：鼓励多方参与，形成协同治理模式。

伦理与法律的协同

• 伦理的作用：提供价值判断标准，约束与指导人工智能开发与应用。
• 法律的作用：依靠国家强制力，保障底线，防范风险。
• 伦理与法律的结合：形成“柔性治理”与“刚性治理”并重的治理框架。

伦理规制阶段总结

• 第一阶段：已形成共识性伦理原则，包括人类福祉、避免伤害、平等均衡、公平正义、安全可控、隐私保护、责任分担、多元包容等。
• 第二阶段：逐步探索伦理体系构建，包括伦理使命、伦理原则、实施细则三个层次，确保伦理原则落地实施。

关键案例与实践

• 国际组织：联合国、G20、OECD等发布人工智能治理文件，推动全球共识。
• 各国实践：
  • 美国：设立多个监管机构，推动伦理与法律结合。
  • 欧盟：制定《可信人工智能伦理指南》，构建治理框架。
  • 德国：提出自动驾驶伦理准则，强调人类生命优先。
  • 中国：发布治理原则与行业自律公约，倡导负责任发展。
• 企业实践：IBM、谷歌、微软、腾讯、百度等企业设立伦理委员会，推动伦理落地。

总结

人工智能治理是一项复杂的系统工程，需结合伦理与法律手段，形成多元、协同、敏捷、全球化的治理机制。伦理规范提供价值指引，法律制度保障底线安全，两者共同构建起人工智能治理的基石。未来，人工智能治理将更加注重包容性、弹性化和制度化，以实现科技向善、造福人类的目标。