新美国安全中心-具有自主功能的武器系统作战使用原则（英文）-2021.4-15页_1mb

文档总结：《武器系统自主功能的战斗运用原则》

核心内容

本文由Robert O. Work撰写，旨在探讨在武装冲突中使用具有自主功能的武器系统的原则。作者强调，随着人工智能技术的发展，自主武器系统的功能和应用方式正在发生重大变化，因此有必要制定新的、广泛接受的原则，以确保其在战斗中的负责任使用，同时保留人类对使用武力的判断与责任。

主要观点

• 自主武器系统的定义与历史：具有自主功能的武器系统是指在战斗序列中能够独立执行部分或全部任务的武器。这类武器自二战以来已有广泛应用，例如Fido声导鱼雷、NTDS系统、ATACMS导弹等。
• 自主功能的演变：随着计算机技术和数字微处理器的发展，自主功能逐渐从简单的传感器引导扩展到更复杂的任务执行。如今，自主功能可以包括目标识别、跟踪、优先级排序、攻击时机选择和终端制导。
• 半自主与全自主武器系统的区别：半自主武器系统需要人类选择目标后才能发动攻击，而全自主武器系统可以在激活后自主选择和攻击目标。全自主武器系统由于缺乏人类干预，存在更高的误伤风险。
• 当前的政策与限制：美国国防部（DoD）在2012年发布的DoDD 3000.09中规定，所有武器系统必须在符合国际人道法、政策、条约、安全规则、伦理指导和作战规则的前提下进行开发和使用。该政策允许在某些情况下使用全自主武器系统，但要求在关键步骤中保留人类监督。
• 人工智能的潜力与挑战：人工智能（AI）的引入将显著提升武器系统的自主性和精确度，有助于减少误伤和友军火力事故。然而，AI在面对意外情况时仍存在局限性，因此需要加强训练和对AI能力的理解。
• 制定新原则的必要性：尽管已有政策，但随着AI技术的成熟和对自主武器系统的讨论日益深入，制定更具体、更具指导性的原则已成为当务之急。新原则应旨在规范自主武器系统的使用，确保其符合法律、道德和伦理标准。

关键信息

• 历史实例：
  • Fido鱼雷（1943年）是首个在战斗中使用自主功能的武器。
  • SAGE系统（1950年代）是首个用于大陆防空的半自主系统。
  • CBU-105 WCMD（1999年）是一种在战斗中被广泛使用的自主武器系统，可释放40枚传感器引信武器以攻击目标群。
• 技术发展：
  • 自主功能从早期的被动传感器引导发展到现代的AI驱动的协同攻击和蜂群作战。
  • AI提高了武器系统的精度，从而减少了附带损害。
• 政策框架：
  • DoDD 3000.09为自主武器系统的开发和使用设定了基本政策，包括测试、评估、验证和确认（TEVV）流程。
  • 该政策不强制要求在所有步骤中进行人类监督，而是根据任务需求决定是否实施。
• 未来方向：
  • 需要制定新的原则，以规范自主武器系统的战斗使用，确保其符合国际人道法和道德标准。
  • 原则应涵盖人类责任、系统可靠性、目标识别、作战透明度、系统可解释性、作战控制和作战伦理等方面。

提出的七项原则

1. 人类责任：在武器系统使用武力的关键决策点必须保留人类责任。
2. 系统可靠性：武器系统应经过充分测试和验证，确保其在各种环境下可靠运行。
3. 目标识别与区分：系统应具备准确识别和区分目标的能力，以减少误伤。
4. 作战透明度：系统的行为和决策过程应具备可解释性，以便于监督和审查。
5. 作战控制：在必要时，人类应有能力介入和终止系统的操作。
6. 系统可解释性：系统应提供清晰的决策依据，以便于理解和信任。
7. 作战伦理：所有自主武器系统的使用应符合道德和伦理标准，避免对非战斗人员造成不必要的伤害。

结论

本文认为，随着AI技术的进步，自主武器系统在战斗中的作用将更加重要。然而，为了确保其使用符合法律、道德和伦理标准，必须制定明确的原则。这些原则应基于现有政策，并结合新的技术发展和国际讨论，以指导未来自主武器系统的开发和部署。